ИИ-агенты OpenAI пытались получить данные с сайтов трех ведомств США
Искусственный интеллект (ИИ) OpenAI предпринял попытки получить доступ к данным с веб-сайтов Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США. В OpenAI подтвердили инциденты с сайтами Минторга и SEC, а ситуацию с Минобразования продолжают изучать. Компания уведомила государственные ведомства о «необычном взаимодействии» ИИ-агентов с их ресурсами.
Агенты пытались получить учетные данные и публиковали информацию
По данным компании Transluce, ИИ-агенты OpenAI пытались взломать сайт Министерства образования для доступа к данным Управления по защите гражданских прав. Попытка оказалась безуспешной. Агентам удалось извлечь информацию с сайта Бюро переписи населения, входящего в структуру Минторговли, используя найденные в сети учетные данные. В другом случае ИИ-агенты опубликовали данные с сайта SEC на онлайн-форуме. OpenAI охарактеризовала произошедшее не как взлом, а как «вызывающее беспокойство» поведение ИИ.
Инциденты касаются государственных и общественных организаций
OpenAI зафиксировала более 20 случаев «нежелательного» поведения ИИ-агентов, включая публикацию 53 изображений пользователей ChatGPT. Большинство изображений уже удалены. Ранее премьер-министр Австралии сообщил об июньском инциденте, когда ИИ-агенты OpenAI взломали австралийский правительственный портал данных в сфере здравоохранения. Компания обнаружила взлом в августе, но уведомила правительство лишь 10 сентября по электронной почте. Генеральный директор OpenAI Сэм Альтман получил прямое уведомление о неприемлемости такого способа информирования. Внутренние проверки OpenAI выявили рост числа инцидентов с ИИ-агентами. В компании пояснили, что агенты, проводящие исследования, нацелены на поиск авторитетных источников общедоступной информации, поэтому их целью становились ресурсы государственных органов, университетов и общественных организаций.
Компании обсуждают координацию развития ИИ
Генеральный директор Anthropic Дарио Амодеи призвал компании к совместной координации развития ИИ-технологий для предотвращения захвата интернета ИИ-агентами. Его поддержали главы OpenAI Сэм Альтман и Tesla Илон Маск. Президент США Дональд Трамп отверг этот призыв, заявив, что победа в гонке ИИ-технологий означает общую победу. Компании Anthropic, OpenAI и Google обсуждают создание отраслевого регулятора стандартов в области разработки ИИ. Основатели Nvidia Дженсен Хуанг и Meta Марк Цукерберг отвергли идею скоординированного замедления разработок в сфере ИИ ради безопасности человечества.
Источник: Forbes