Ректор РЭШ Антон Суворов: ошибаться и врать ИИ учится у людей

— Классическая экономическая наука к концу XX века базировалась на постулате, того, что люди всегда ведут себя рационально: они знают, что для них лучше, что хуже, и действуют себе во благо. Но дальше появились исследования, которые показали, что все мы совершаем ошибки. Поведенческая экономика — это фактически признание того, что есть систематические отклонения и от безупречной картины мира, и от рационального принятия решений, и понимание, что эти ошибки носят предсказуемый характер. Она берет эти ошибки в расчет и показывает, какие инструменты позволяют нам с этими уязвимостями бороться. Например, дает понимание, когда происходит «эффект толпы»: люди бегут снимать деньги со счетов без рациональных причин или совершают рискованные операции на финансовых рынках, не понимая степени риска и переоценивая свои способности угадать выигрышную стратегию.

— Самая распространенная – это самоуверенность. Например, 80% водителей считают, что они водят машину лучше, чем остальные. С профессорами еще хуже ситуация — 95% верят, что читают лекции лучше, чем коллеги.

Другой пример: так называемый феномен предвзятости подтверждения, по-английски confirmation bias. Это наблюдение о том, что мы легко верим тому, что хорошо стыкуется с нашими убеждениями и вписывается в нашу картину мира, и воспринимаем в штыки то, что этому противоречит. Эта предвзятость мешает нам меняться, воспринимать новую информацию и обучаться.

Третья уязвимость — недостаточное внимание к будущему. Конечно, это тоже нам всем свойственно, потому что мы живем здесь и сейчас. И сложно представить, что от того, что ты сейчас не находишь возможности накопить деньги на будущее, потом тебе будет тяжелее.

То же самое со здоровьем. Многие не обращают на него внимания, потому что часто ущерб выглядит слишком отложенным и абстрактным.

— На самом деле бизнес тоже ищет решения, которые позволят преодолеть эти уязвимости. И если компания пытается выстраивать долгосрочные отношения с клиентами, то она не будет эксплуатировать их слабости.

— Действительно, стремительное развитие искусственного интеллекта – это серьезный вызов для образовательного сообщества, в том числе при проверке знаний. Но все-таки мы должны исходить из презумпции добросовестности студента. И риск наказать того, кто сам писал работу, используя ИИ для минимальной правки, — это риск серьезный, на мой взгляд, недопустимый. Например, если речь идет о дипломной работе, совершенно нормально, если студенты пользуются искусственным интеллектом при подготовке материала. Но на защите дипломной работы важно, чтобы студент умел грамотно рассказать о ней, правильно расставить акценты и ответить на вопросы. Поэтому, наверное, нужно интенсифицировать использование устных форматов в образовании, но писать тоже очень важно. Потому что, когда человек пишет, у него выстраивается умение ясно и лаконично формулировать мысли, а именно это до сих пор было одним из самых важных навыков образованных людей. Отказываться от этого категорически нельзя. Просто нужно совмещать разные формы обучения и проверки. Кстати, мне недавно прислали любопытную заметку о том, что одна из крупных технологических компаний ищет за большие деньги копирайтеров, которые умеют писать классные тексты без использования искусственного интеллекта. Все-таки, наверное, у нас где-то на подсознательном уровне иногда включается ощущение, что текст, написанный ИИ, может быть умным и гладким, но чего-то важного ему не хватает.

— Мне может показаться, что я его отличу. Но, насколько я знаю, даже самые лучшие системы распознавания очень далеки от 100% точности. Но, опять же, очень важно понимать свои границы, не переоценивать возможности. Я здесь хотел рассказать про эксперимент, который провел мой коллега. Он дал студентам задание прямо в классе за ограниченное время подготовить идею исследовательского проекта, как будто они пишут заявку на грант. При этом студенты были никак не ограничены в использовании ИИ, получили полную свободу. Но в конце должны были рассказать, как именно они его использовали.

— Оказалось — очень интенсивно, но очень по-разному. Некоторые просто загрузили все его лекции в ИИ и сказали: «Придумай мне что-нибудь», то есть полностью делегировали работу. И такие ребята, как правило, не пришли к очень хорошим результатам. А были студенты, которые сказали: «У меня есть такая идея, что ты думаешь?» И вступили в сократический диалог с искусственным интеллектом. Впоследствии достигли прекрасных результатов. Поэтому весь вопрос в том, как мы используем ИИ. Здесь нужно развивать свое собственное критическое сознание. И если это помнить и уделять внимание, то перед нами открывается бездна возможностей.

— Мне кажется, что молодежь нас будет обгонять, это нам нужно у них учиться. Но при этом, конечно, важно транслировать им хорошие практики, давать ориентиры и рассказывать про риски. Один из студентов под моим научным руководством написал дипломную работу о том, что наша склонность быстро и просто решать проблемы может привести к чрезмерному использованию ИИ и постепенной деградации нашего собственного мышления. Это как раз близкая мне область исследований в поведенческой экономике.

Мы часто недостаточно ценим будущее. Нам хочется что-то быстро получить, а последствиями мы часто пренебрегаем. К чему это приводит? Люди систематически недостаточно сберегают на пенсию. Мы хотим похудеть, регулярно ходить в спортзал, но возникают всякие препятствия, и эти планы не всегда удается реализовать. Или если есть какая-то учебная или рабочая задача, возникает большой соблазн просто загрузить ее в систему ИИ.

Он ее как-то решит, и часто сделает это достаточно хорошо, а иногда, возможно, даже лучше, чем ты сам мог бы сделать. Но какая здесь возникает проблема? Ты не сделаешь что-то сейчас, и когда в следующий раз столкнешься с этой ситуацией там, где у тебя не будет возможности воспользоваться ИИ, окажешься не у дел, потому что не знаешь, как с этим работать.

Вторая опасность в том, что для того, чтобы эффективно взаимодействовать с искусственным интеллектом, нам постоянно нужно быть в интеллектуальном тонусе и в теме. То есть нужно разбираться в предмете, чтобы понять, где ИИ действительно подсказал какую-то ценную вещь, а где он говорит ерунду.

Поэтому иногда искусственный интеллект может не расслабить наше мышление, а наоборот помочь нам приобрести знания. Но ловушек здесь расставлено очень много.

— Действительно, искусственный интеллект стал очень умным, он проник везде. Мы все смотрели «Терминатор», и это казалось абсолютной утопией, а сейчас начинаешь думать, что это не такая уж невероятная история. Мы вступили в эпоху, когда технологии развиваются очень быстро, и риски возникают естественным образом. Это как атомные технологии: можно добывать энергию, а с другой стороны, они обладают колоссальной разрушительной силой. Дело не в технологии, а в людях. Так и с ИИ — хочется верить, что человечество окажется достаточно мудрым и не совершит фатальных ошибок.

— Я думаю, что да, у многих публичных нейросетей есть темы, которые они не готовы обсуждать, вопросы, на которые не готовы отвечать. Они часто и честно об этом предупреждают. Например, если даже простую нейросеть попросить нарисовать стилизованный портрет какого-то конкретного человека, то она, скорее всего, откажется.

— Все эти ощущения, как правило, достаточно субъективны. Конечно, ребята меняются, но я точно не скажу, что они становятся глупее. Все разные, кто-то с большим интересом к жизни, любознательностью, кто-то, кому все не очень интересно. Так всегда было, есть и будет. Вот смотрите: появились навигаторы, и мы действительно стали реже пользоваться картами. Навигаторы исчезнут – и нам нужно будет снова учиться, это будет вызов, но сказать, что мы фатально поглупели, нельзя. То же с калькуляторами – мы потеряли какие-то навыки счета, но глупее не стали.

Но с ИИ, конечно, соблазн выше, потому что искусственный интеллект приблизился, а во многом уже и перегнал среднестатистического человека. Мозг в этом смысле похож на мышцу, тренировка – как в спортзале. Если мы его недогружаем, конечно, он может расслабиться.

— Все зависит от того, какие задачи мы ему поставим. Если написать правильный промт: «Расскажи, какие интересные локации есть по пути. Вспомни наши диалоги и пойми, что меня интересует. Найди новые точки притяжения». Либо можно просто сказать ему: «Удиви меня».

— В моей семье считают, что слишком. И я оцениваю риск, что если слишком много ему поручать, то забываешь, как делать какие-то вещи. Но, с другой стороны, для меня сейчас это незаменимый помощник. Есть задачи, которые он помогает решать гораздо быстрее. Иногда, кстати, он предлагает придумать научную тему для меня. Это уже перебор. Но он помогает искать статьи, свежие исследования, составлять резюме. В этом смысле ИИ очень сильно повышает эффективность. Если мне нужно написать важный текст, я никогда не поручу этого искусственному интеллекту, но я могу его спросить, какая формулировка конкретной фразы лучше. А он мне может предложить какую-то третью, и, возможно, я увижу, что ему удалось лучше выразить мою мысль.

— Во-первых, люди тоже очень много ошибаются и врут. Он этому у нас научился. Во-вторых, система становится лучше. Я интенсивно использую ИИ последние пару лет и вижу существенный прогресс. Раньше, когда ты просишь его сделать обзор какой-то области исследований, и он тебе половину статей предложит, которых в принципе не существует. Сейчас такого почти не бывает. Глупых ошибок он делает гораздо меньше. Но это создает, на мой взгляд, более фундаментальный риск, потому что возникает соблазн доверить ему более сложную работу и расслабиться.

— У него есть задача, чтобы мы с удовольствием им пользовались. Ему не хочется, чтобы мы от него отказались. Отсюда, кстати, и его подхалимаж. Если он будет все время с нами спорить, нам это не понравится, и мы перестанем с ним общаться. Я недавно сам попросил его посмотреть на наши диалоги и сказать, не слишком ли подхалимский у него тон. Он признал, что слишком, спросил, хочу ли я, чтобы он был построже. Я говорю: давай.

— Это уже происходит. Это не значит, что все программисты будут не нужны. Но те, кто не обладают по-настоящему продвинутыми навыками, не умеют глубоко думать или не имеют кругозора, чтобы увидеть контекст задачи, уже заменяются. И не только программисты, конечно. Взять преподавателя, который просто начитывает лекции, — он тоже в зоне риска. И этот процесс будет только нарастать.

Будущее за балансом между знаниями и умениями в области математики, программирования, инженерных наук — и гибкими навыками: умением общаться, критическим мышлением, дисциплиной, этикой. Узкотехнические, технократические специалисты максимально в зоне риска.

В ближайшем будущем люди будут осваивать несколько профессий и менять их в течение жизни. И это тоже нормально. Тезис о том, что нужно учиться всю жизнь, очень верный. Это понимание у нынешних студентов развито очень хорошо.

— Если говорить про нашу совместную с НИУ ВШЭ бакалаврскую программу, то там все или почти все бюджетные места занимают победители всероссийских олимпиад, школьники с очень высокими баллами за ЕГЭ — их около 300. Мы учитываем и другие олимпиадные достижения.

— На мой взгляд, ЕГЭ — добро, потому что он позволяет ребятам, где бы они ни находились, сдавать честно одинаковый экзамен. Конечно, было бы наивно полагать, что у всех одинаковые возможности получить знания. Наверное, если ты живешь в Москве, у тебя этих возможностей больше, чем если ты живешь в маленьком городке. Но ЕГЭ, по крайней мере, дает шанс. Кроме того, ЕГЭ создает здоровую конкуренцию между вузами, расширяет возможности абитуриентов.

Когда мы спрашиваем: ЕГЭ — это добро или зло, надо всегда спросить, а какая альтернатива? Я их не вижу. Нам нужна некоторая справедливая система оценки знаний, которая дает инструмент, в том числе для поступления в вуз. И вернуться к ситуации, когда каждый институт проводит какие-то свои испытания, кто во что горазд, мне кажется, это будет откат. Конечно, очень важно, чтобы сами задания в ЕГЭ были разумные, чтобы они не были только механистичные. На мой взгляд, задания ЕГЭ сейчас достаточно сбалансированные, как минимум — по математике.

— Мы как раз стараемся соблюдать баланс между разными областями знаний и навыками. Туда приходят ребята уже с глубокими знаниями в математике, а мы помогаем им, с одной стороны, развить подготовку в области машинного обучения и ИИ, а с другой стороны — сформировать понимание того, как устроены рынки, как работают финансовые инструменты. И выйдут, например, очень продвинутые специалисты по риск-менеджменту.

— Сразу возникает образ профессора Мориарти из «Шерлока«: такой маленький, с ноутбуком, очень умный, все знает и всеми манипулирует.

— Ну нет, я бы скорее представил самого Шерлока, этот образ подходит больше.

— Нехорошая манипуляция — если ты хочешь чего-то добиться в ущерб другому. Может ли искусственный интеллект такое делать осознанно? Только если в него это кто-то заложит. То, что он может, — это точно. Есть исследования, которые показывают, что ИИ достаточно хорошо чувствует собеседника и может найти аргументы, которые найдут отклик именно у данного конкретного человека. Но это можно, опять же, направить и во благо.

Например, исследователи создавали чат-бота, которым можно рассказать конспирологическую теорию, в которую ты веришь. А он дальше пытался тебя разубедить, просто задавая вопросы. И это отличная история — как раз способ преодолеть заскорузлые и неадекватные убеждения, которые у каждого из нас есть.

— Мне кажется, что технологии развиваются так быстро, что даже если сегодня мы это можем, то через месяц уже не сможем.

— Во-первых, всегда сохранять критическое мышление и внутренний настрой на то, чтобы не принимать быстрых решений. Всегда берите паузу перед серьезными шагами. Сейчас же есть возможность установить самозапреты, периоды охлаждения — не надо этим пренебрегать. Самая большая ошибка, которую мы все можем сделать, — это представить себе, что мы неуязвимы и что мы можем отличить дипфейк от реальности. Жертвами мошенников часто становятся очень образованные, продвинутые люди. У любого из нас может быть момент, когда мы устали, потеряли бдительность. Поэтому, повторюсь, очень важен внутренний настрой: если что-то идет не так, я возьму паузу.

Как правило, мошенники начинают с того, что чем-то нас пугают, выводят из нормального состояния. А дальше идет очень сильный информационный поток, который перегружает мозг, и мы можем принять неразумное решение. Очень важно в самом начале этот момент поймать и просто отодвинуть ситуацию в будущее. У меня тоже были такие истории: звонили «с Петровки», говорили, что прошла какая-то неправильная транзакция… Я говорю: присылайте повестку, я приду. И все, выключаю. Но мы все уязвимы, здесь стопроцентной брони нет. Стандартная рекомендация — сразу прервать подозрительный звонок; еще надежнее — вообще не отвечать на незнакомые звонки. Но, например, если ты ждешь курьера, то приходится ответить. Поэтому нельзя недооценивать, насколько продуктивно мошенники умеют общаться с жертвами. Важно просто не вступать в сомнительные взаимодействия — выиграть здесь практически невозможно.

Даже если человек очень хорошо понимает, осознает, что это мошенники, и просто хочет их потроллить — это зона риска. С той стороны может оказаться кто-то очень продвинутый, кто найдет вашу уязвимость или запишет образец голоса и потом обманет ваших близких.

— Искусственный интеллект уже является системообразующей технологией, которая влияет на экономическое и технологическое развитие. Поэтому каждой стране нужно обеспечить себе в любой момент достаточно продвинутый уровень. Понятно, что какому-нибудь маленькому государству, наверное, сложно создать свой суверенный искусственный интеллект. Но нам, безусловно, это нужно делать. И важно свой ИИ не просто развивать, но и максимально давать людям доступ к передовым международным системам, чтобы в применении ИИ мы не отставали, потому что это отставание за несколько лет может накопиться очень сильно.

Показательный пример: был момент, когда казалось, что американские компании в сфере ИИ доминируют тотально. Потом появился китайский DeepSeek, который выстрелил, и сейчас уже компаний в этой области достаточно много. Было мнение, что издержки для входа в эту опцию запретительно высокие. На самом деле мы видим, что они посильные. Очень хорошо, что наши компании вкладываются в ИИ, абсолютно правильное решение. Но неправильно будет, если мы всех заставим пользоваться только отечественным искусственным интеллектом, потому что тогда мы можем проиграть – при решении ряда задач какие-то зарубежные системы могут быть впереди.

Вообще, искусственный интеллект – это та область, где человечеству нужно научиться эффективно взаимодействовать, потому что риски здесь носят глобальный характер.