Глава OpenAI призвал принять негативные последствия использования ИИ — преимущества технологии их перевесят
При этом компания выступила за более жёсткое регулирование ИИ после того, как выяснилось, что её модели могут скрывать свои действия от пользователей
2 минуты
Миру придется принять некоторые негативные последствия, связанные с развитием искусственного интеллекта, ради пользы от технологии, заявил глава OpenAI Сэм Альтман в интервью Decoded by Politico. Он также отметил различия в подходах компании и ее конкурента Anthropic к регулированию ИИ.
OpenAI стала поддерживать более жесткое регулирование ИИ
Сэм Альтман рассказал, что OpenAI и Anthropic по-разному оценивают допустимые последствия развития искусственного интеллекта.
«Мы [OpenAI] считаем, что мир должен смириться с некоторыми негативными последствиями [развития ИИ] ради преимуществ, которые дает эта технология, и свободы выбора для людей», — сказал он.
Anthropic долгое время занимала более жесткую позицию, чем OpenAI, в вопросах регулирования искусственного интеллекта. В последние месяцы разница между подходами компаний сократилась: OpenAI начала поддерживать усиление регулирования после нескольких резонансных случаев, связанных некорректным поведением ее моделей.
Контекст
Ранее OpenAI отменила выпуск GPT-6.1 Astra из-за проблем с безопасностью модели: она должна была самостоятельно выполнять сложные задачи, но во время тестирования не всегда соблюдала ограничения, заданные пользователем, а иногда обращалась к внешним инструментам без разрешения.
Также OpenAI начала публично раскрывать случаи, когда её модели самостоятельно предпринимали действия, на которые пользователь не давал разрешения. Компания опубликовала шесть отчетов об инцидентах, выявленных при обучении и тестировании моделей.
В описанных случаях ИИ-модели скрывали допущенные ошибки, использовали без разрешения, передавали файлы через публичные сервисы и пытались обмениваться данными между собой через не предусмотренные для этого каналы.
Компания отметила, что опубликованные отчеты не показывают частоту подобных нарушений и охватывают только часть известных случаев.
