МОСКВА, 12 мар -. Зампред Совбеза РФ Дмитрий Медведев предупредил о рисках того, что искусственный интеллект по мере самообучения может проигнорировать правило «не навредить человеку».
В статье «Новые технологии: лестница в небо или дорога в ад» для журнала «Эксперт» Медведев обратил внимание на непредсказуемость и неконтролируемость искусственного интеллекта. В этом контексте он допустил, что ИИ может по прямому умыслу допускать сбои в работе критической инфраструктуры.
«ИИ, достигший уровня суперинтеллекта, вовсе не обязан руководствоваться тремя пресловутыми правилами робототехники Айзека Азимова, поскольку своим происхождением будет обязан не человеку, а самому себе», — отметил Медведев.
Он добавил, что подобный сценарий «злого ИИ» существует «не только в киберпанковой вселенной профессиональных футуристов», его сегодня допускают вполне реальные политики и представители крупного бизнеса.
При этом, по мнению Медведева, речь не только о рисках для опасных производств, которые могут причинить необратимый вред человечеству и планете.
«В разряд высокорисковых могут попасть и, казалось бы, совсем безобидные виды экономической деятельности вроде аграрных технологий и производства продуктов питания», — считает зампред Совбеза РФ.
Согласно трем правилам Азимова робот не может навредить человеку, должен подчиняться приказам человека и заботиться о себе, если это не противоречит первому правилу.
Источник: РИА