МОСКВА, 11 мар -. Зампред Совбеза РФ Дмитрий Медведев назвал главные риски нерегулируемого развития технологий искусственного интеллекта, упомянув рост безработицы, хакерские атаки на критически важные объекты и потерю контроля человека над нейросетями.
Медведев в статье для журнала «Эксперт» отмечает, что искусственный интеллект является одной из пяти технологий, которые изменят будущее человечества. В то же время, у развития ИИ есть и оборотная сторона, которая несет существенные риски.
«Широкое использование ИИ ставит под угрозу рабочие места миллионов людей и, как следствие, создает предпосылки для экспоненциального роста безработицы и нарушения международных цепочек разделения труда», — пишет Медведев в статье.
Еще одной проблемой зампред Совбеза РФ видит уязвимость критически важной инфраструктуры перед хакерскими атаками.
«Сейчас уже просматривается перспектива передачи ИИ управления большими производственными процессами, в ходе которых применяются критические технологии, а также верхнеуровневыми институтами — холдинговыми компаниями и даже целыми отраслями экономики. И при определенных условиях это чревато глобальными рисками, в частности, хакерских атак на критическую инфраструктуру», — уточняет он.
В то же время, самая большая опасность, по мнению Медведева, связана с возможной утратой контроля над технологиями ИИ. Зампред Совбеза отмечает, что люди уже не в состоянии «в силу естественной ограниченности человеческого разума понять, как ИИ пришел к тому или иному выводу». В качестве примера он моделирует ситуацию, когда из-под контроля вышли нейросети, которые используются в управлении электростанциями, включая атомные. В случае сбоя существуют риски, что человек просто не разберется в его причине, считает он.
«Вот тут-то для человечества и начинается предчувствие Апокалипсиса. Отсюда один шаг к модели «злого ИИ», которая, как и все иные, может материализоваться. То есть к ситуации, когда сбой важной системы происходит по прямому умыслу самого ИИ. Такой сценарий сегодня допускают вполне реальные политики и представители крупного бизнеса», — добавляет Медведев в статье.
Источник: РИА