Скандал вокруг ChatGPT: разработчики признались в сотрудничестве с силовиками, OpenAI подтверждает сканирование чатов на вредоносный контент

Компания OpenAI сообщила о том, что активно мониторит чаты пользователей ChatGPT на наличие вредоносного контента. Это заявление было сделано в контексте обсуждения сотрудничества с правоохранительными органами.

Передача информации в правоохранительные органы

Сотрудники OpenAI обращают внимание на сообщения, содержащие угрозы для других людей или организаций. В таких случаях данные анализируются и могут быть переданы в полицию.

"Когда мы обнаруживаем пользователей, планирующих причинить вред другим, мы направляем их переписки в специальные каналы, где они рассматриваются небольшой командой, обученной нашим правилам использования и уполномоченной принимать меры, включая блокировку аккаунтов. Если рецензенты-человеки определяют, что случай связан с неминуемой угрозой серьёзного физического вреда другим, мы можем передать его в правоохранительные органы", - говорится в сообщении.

Что останется конфиденциальным

OpenAI также уточнила, что не передаёт в правоохранительные органы информацию о случаях самоповреждений, ссылаясь на право пользователей на приватность и уважение к их личной жизни.

Правила использования ChatGPT

Компания описала основные правила, которые запрещают:

• поощрение самоубийства или самоповреждений;
• разработку или применение оружия;
• вред людям или уничтожение имущества;
• участие в незаконных действиях, нарушающих безопасность сервисов или систем.

Эти заявления вызывают путаницу, так как некоторые переписки могут быть признаны опасными и переданы на проверку, в то время как другие останутся конфиденциальными.

Кроме того, позиция OpenAI о защите конфиденциальности вызывает вопросы на фоне судебного иска со стороны ряда издателей, которые требуют доступа к перепискам ChatGPT для выяснения, использовались ли их защищённые авторским правом данные для обучения моделей. OpenAI ранее отвергала эти запросы, ссылаясь на защиту приватности пользователей.

Риски использования ChatGPT

Генеральный директор OpenAI Сэм Альтман также предупреждал, что использование ChatGPT в качестве психотерапевта или юриста не гарантирует конфиденциальности информации. В случае судебного иска компания может быть вынуждена передать переписки с ChatGPT в суд.