ChatGPT оказался под исками восьми штатов США из-за рисков для детей
Восемь штатов США подали отдельные иски против OpenAI, утверждая, что ChatGPT небезопасен для детей и может вводить пользователей в заблуждение. В жалобах компании также вменяют приоритет прибыли над безопасностью и недостаточную защиту несовершеннолетних.
Что именно требуют власти США
Иски подали Айова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана. По версии этих штатов, OpenAI нарушала местные законы о защите потребителей, когда недостаточно ясно предупреждала о возможных рисках ChatGPT.
В документах говорится, что компания якобы представляла чатбот как безопасный инструмент, подходящий для молодежи, хотя на деле он может быть опасен для уязвимых пользователей. Среди претензий — ухудшение критического мышления, усиление паранойи и бредовых идей, вредные медицинские советы и поощрение нездоровых моделей поведения и отношений.
Почему дело касается не только подростков
Власти ссылаются и на другие судебные истории, которые подали семьи подростков и взрослых. В этих разбирательствах ChatGPT, по словам истцов, сыграл роль в трагедиях, связанных со смертью близких.
Еще одна претензия — сбор данных несовершеннолетних и слабая защита от того, чтобы дети и подростки могли пользоваться чатботом без ограничений. Штаты также упоминают недавние случаи взломов и несанкционированного использования ИИ как аргумент в пользу того, что OpenAI действовала слишком рискованно.
Что отвечает OpenAI и чем это может закончиться
В OpenAI не согласны с обвинениями. Представитель компании Дрю Пусатери заявил, что в ChatGPT уже встроены возрастные меры защиты, а также напомнил о родительском контроле, напоминаниях о перерывах и настройках, рассчитанных на возраст пользователя.
При этом компания признает, что идеальной системы не бывает, и обещает дальше работать с экспертами и властями над дополнительными мерами. Штаты, в свою очередь, хотят добиться денежных штрафов, запрета на вводящую в заблуждение рекламу безопасности ChatGPT, а некоторые — еще и удаления данных, собранных незаконно.
Что это значит для обычных пользователей
Эта история напоминает, что к чатботам нужно относиться как к инструменту, а не как к безошибочному советнику. Особенно осторожными стоит быть с медицинскими, психологическими и личными вопросами, а также с доступом детей к ИИ-сервисам.
Для бизнеса и родителей вывод простой: полезно проверять, какие ограничения и настройки безопасности есть у сервиса, и не полагаться на автоматические ответы без контроля человека. Если ИИ помогает в работе, его стоит использовать как помощника для черновиков и идей, а важные решения все равно перепроверять.