Сэм Альтман на страже конфиденциальности: OpenAI будет шифровать переписки пользователей с ChatGPT

Терапевт без лицензии

В конце июля CEO компании Сэм Альтман подтвердил: чаты с ChatGPT не имеют никакой юридической защиты. В отличие от разговора с юристом или врачом, переписка с ИИ не считается конфиденциальной. А значит, в случае запроса от суда OpenAI обязана выдать данные.

Но сам Альтман признаёт: его отношение резко изменилось, когда он увидел, как именно люди используют ChatGPT. Многие пользователи обсуждают в чате семейные конфликты, проблемы со здоровьем, переживания из-за работы или отношений.

Именно поэтому в OpenAI начали обсуждать концепцию AI privilege — аналог адвокатской или врачебной тайны, но для общения с искусственным интеллектом. Идея проста: если ИИ даёт консультации на уровне специалиста, то и защита должна быть такой же. В теории это означало бы, что переписка с ботом не может быть использована против человека в суде и не подлежит раскрытию без согласия пользователя.

Временные чаты — временная мера

Сейчас временные диалоги в ChatGPT не сохраняются в истории и не используются для обучения модели. По заявлениям компании, такие переписки удаляются автоматически, но до этого до 30 дней остаются на серверах.

Однако с мая OpenAI обязана хранить даже удалённые чаты по решению федерального суда. То есть данные, которые пользователь считал «временными», в реальности находятся под контролем компании и могут быть использованы против него. Именно эти переписки станут тестовой площадкой для запуска шифрования.

Невозможность сквозного шифрования

В классических мессенджерах схема end-to-end шифрования проста: у каждого пользователя есть ключи, которые хранятся только на его устройстве. Сообщение шифруется на телефоне отправителя и расшифровывается на телефоне получателя. Провайдер связи в этой цепочке лишь передаёт зашифрованные данные, но сам не имеет технической возможности прочитать переписку.

В случае с ChatGPT всё иначе: чтобы понять запрос и дать ответ, модель должна расшифровать текст на стороне OpenAI. Это главный парадокс: компания одновременно выступает и посредником, передающим информацию, и собеседником. При нынешней архитектуре ChatGPT полная неприкосновенность диалогов просто невозможна.

Опыт Apple — и технологический тупик

Apple частично решила проблему с помощью Private Cloud Compute. В этой схеме данные обрабатываются на серверах, но не становятся доступны самой компании в широком виде. Пользователь получает защиту, а Apple — возможность запускать ИИ-функции без утечки информации.

Для OpenAI ситуация сложнее. В отличие от Apple, сервис строит работу вокруг памяти и персонализации. Чтобы ChatGPT «помнил» пользователя, компания должна хранить и обрабатывать данные. Это делает полноценное сквозное шифрование практически невозможным.

Угроза от властей

Альтман признал, что пока запросов от государственных органов немного — в год их количество ограничивается «двузначным числом». Но он уверен, что одного громкого дела будет достаточно, чтобы пользователи массово потребовали иной модели защиты.

По словам Альтмана, именно это изменило его личное отношение: из второстепенного вопрос приватности превратился в приоритет.

Контекст

Если OpenAI удастся реализовать шифрование, это станет новым стандартом для отрасли. Но пока проект остаётся в стадии обсуждения: ни сроков, ни готовых решений нет. Вопрос доверия к ИИ снова завис в воздухе — и решать его придётся не только инженерам, но и законодателям.

Фото: Leon Neal / Staff / Getty Images