МОСКВА, 13 мар -. Сотрудничество американской OpenAI с Пентагоном может нести значительные риски для ряда компаний и граждан, которые США сочтут недружественными, из-за размытого пользовательского соглашения компании, особенно в области передачи данных из ChatGPT, рассказал руководитель отдела информационной безопасности MWS AI (входит в МТС Web Services) Андрей Коршунов.
Ранее, в конце февраля, глава OpenAI Сэм Альтман сообщил, что компания договорилась с Пентагоном об использовании ее ИИ-моделей в «секретной сети» ведомства.
«Соглашение OpenAI, которая разрабатывает ChatGPT, с Пентагоном может в будущем нести значительные риски для граждан и компаний из стран, которые США по какой-то причине сочтут недружественными. Из-за достаточно размытого пользовательского соглашения OpenAI мы и так не до конца понимаем, что происходит с нашими данными, когда они попадают в нейросеть, где они хранятся и как их использует компания», — отметил Коршунов.
Он объяснил, что в пользовательском соглашении указано, что сотрудники OpenAI могут просматривать диалоги для улучшения моделей, расследования возможных нарушений правил использования и тестирования качества системы. Обычно такие данные анонимны, однако полной конфиденциальности это не гарантирует.
По словам эксперта, когда человек пользуется ChatGPT, сервис может собирать данные, такие как текст, сообщения, файлы, изображения и голос, которые сохраняются как история диалогов. Помимо этого, автоматически собираются IP-адрес, тип устройства, браузер и примерное местоположение.
«Пользовательские диалоги могут использоваться для обучения будущих моделей, проверки качества работы системы и анализа ошибок. Кроме того, данные могут передаваться подрядчикам и облачным сервисам, которые обеспечивают инфраструктуру и техническую поддержку, а также партнерам компании. В отдельных случаях информация может быть предоставлена государственным органам при наличии законного запроса», — добавил он.
OpenAI — разработчик чат-бота ChatGPT, который набрал популярность после запуска в конце ноября 2022 года, собрав первый миллион пользователей менее чем за неделю. Одним из сооснователей OpenAI в 2015 году выступил американский миллиардер Илон Маск, который позже разорвал связи со стартапом.
Источник: РИА