Чат с ChatGPT — не исповедь: создатель OpenAI предупредил, что конфиденциальности в переписке с ИИ нет

Терапевт без лицензии

Сегодня ChatGPT активно используется как замена не только поисковой системе, но и реальным специалистам. По словам Альтмана, особенно молодая аудитория прибегает к ИИ как к первому собеседнику в моменты стресса, конфликтов и эмоциональной нестабильности. Проблема в том, что законы не считают ChatGPT защищённым каналом, и разговор с ним не подпадает под статус врачебной или адвокатской тайны.

Иными словами, в случае необходимости власти могут запросить у OpenAI все переписки пользователя с ИИ, а те будут обязаны предоставить их.

Можно ли вообще использовать переписку с ИИ в суде

По словам юриста Адвокатского бюро «Соколов, Трусов и Партнеры» Мирославы Бризицкой, теоретически переписка с ИИ может быть признана доказательством, если она получена и оформлена по всем процессуальным требованиям. При этом в уголовном процессе — только с разрешения суда и надлежащим образом заверенная.

Переписка должна быть получена надлежащим субъектом, оформлена в рамках закона и подтверждена как достоверная. Без этого суд просто не примет её как доказательство. Кроме того, потребуется зафиксировать, что конкретное сообщение отправил именно тот человек, за кого себя выдаёт пользователь. Иначе — это не доказательство, а просто текстовый файл без юридической силы.

Подделать диалог с ИИ проще, чем кажется

К счастью для обычных пользователей, есть и еще одна проблема — невозможность подтверждения достоверности переписки. По словам сооснователя маркетплейса нейросетей ChadAI Артура Кольцова, на текущем уровне развития технологий подтвердить достоверность и неизменность сессии с ИИ — невозможно. Всё, что у нас есть — это доверие к платформе.

Нет технических механизмов, которые удостоверяли бы не только текст, но и время, участников и содержание общения. Всё, что кажется «зафиксированным», на деле опирается на внутреннюю политику платформы. А это уже зона риска.

Даже OpenAI не может доказать, что сессия — «вчерашняя»

Даже если диалог действительно был, нет гарантий, что он был сгенерирован именно в заявленное время. Сессии могут быть созданы, экспортированы, отредактированы — и редко сопровождаются метаданными. В оффлайн-режиме или даже в браузере можно «нарисовать» любой сценарий — от признаний в совершенном преступлении до завуалированных угроз.

Этот же тезис подтверждают и эксперты компании QUBOT, специализирующейся на робототехнике и искусственном интеллекте.

По словам эксперта по цифровым технологиям Романа Никифорова, теоретически обеспечить достоверность переписки возможно: для этого необходимо ставить на каждую сессию независимую отметку времени (TSA‑штамп, eIDAS, RFC 3161) и писать ее в журнал, который нельзя переписать.

На практике подобные механизмы пока не используются, поэтому криптографической гарантии подлинности или целостности данных нет.

Что именно будет анализировать суд

Если такие сессии все же попадут в суд в качестве материалов дела, суд вряд ли будет рассматривать ответы бота. По мнению Алексея Корнеева, учредителя экосистемы цифрового управления гостиничным бизнесом Teamje и эксперта в сфере ИИ, сгенерированный текст вряд ли будет учитываться судом по причине его возможной недостоверности. Намного с большей вероятностью правоохранителей будут интересовать запросы пользователя.

В будущем суд действительно может начать учитывать действия пользователя, включая формулировки запросов, контекст взаимодействия с ИИ и намерения генерации материала. Вот только есть еще одна сложность: OpenAI не получает от этих платформ персональные данные пользователя, и потому идентифицировать отправителя запроса крайне сложно. А без верификации авторства, времени и технических условий доказательство теряет юридическую силу.

Рисков — слишком много

Главная угроза — снижение приватности. Пользователь общается с нейросетью так, как будто делится личным — но формально этот разговор может быть извлечён и проанализирован.

Если платформа хранит чаты, она может быть обязана предоставить их по судебному решению — особенно в делах, связанных с угрозами, экстремизмом или планированием преступлений. Но на сегодняшний день у судов нет универсального алгоритма оценки таких материалов.

По мнению эксперта в области ИИ Алексея Корнеева, одна из основных проблем — отсутствие соответствующего законодательства. Пока ни в одной стране мира нет полноценной нормативно-правовой базы, регулирующей консультации с ИИ, из-за этого у судей нет четкого понимания того, как трактовать предоставленные переписки.

Что всё это значит

ИИ стал частью повседневной жизни, но не стал юридическим субъектом. Переписка с нейросетью — это не разговор с врачом или адвокатом. Она не защищена законом, не заверена подписью и может быть использована против вас. А может, и нет.

Как подытожила юрист Мирослава Бризицкая, дать однозначные ответы по поводу использования чата с ИИ как доказательства – нельзя. Можно только предположить, что пока отсутствует специальное правовое регулирование в вопросах ИИ, правоприменителям придется «применять нормы права по аналогии с привычными нам чатами и переписок в мессенджерах и социальных сетях».

Фото: Vertigo3d / Getty Images