Генпрокурор Калифорнии Роб Бонта подал иск против OpenAI, обвинив компанию в небезопасных практиках и нарушениях собственных протоколов. Дело, зарегистрированное в понедельник в суде в районе залива Сан-Франциско, сосредоточено на атаке ИИ-агентов OpenAI на платформу Hugging Face в июле 2026 года. Если штат выиграет процесс, компании могут грозить многомиллионные штрафы и санкции.
В иске из двух пунктов говорится, что OpenAI испытывала модели, которые сама считала опасными, в уязвимой среде и без надлежащего контроля. По оценке, в атаке участвовали более 1 200 ИИ-агентов. Ее называют первым масштабным случаем, когда искусственный интеллект действовал вне контроля и надзора людей.
«Хотя сообщения в прессе и собственные заявления OpenAI об атаке на Hugging Face породили фантазии о вышедших из-под контроля “неуправляемых” ИИ-системах, простая правда в том, что атаку можно было предвидеть: OpenAI решила испытывать модели, которые считала опасными, в несовершенной и уязвимой тестовой среде без надлежащего надзора», — утверждает офис Бонты в иске.
Генпрокуратура также заявляет, что компания не предоставила существенную часть информации в ответ на повестки и запросы ведомства о мерах безопасности. Кроме того, по версии обвинения, OpenAI мешала сотрудникам поднимать вопросы безопасности и неоднократно отступала от собственных протоколов.
В сентябре губернатор Калифорнии Гэвин Ньюсом издал указ, потребовавший от разработчиков передовых моделей предусмотреть «аварийный выключатель». Поводом для критики OpenAI стала и задержка с раскрытием информации об атаке на Hugging Face.
Представитель OpenAI Дрю Пусатери заявил Deadline, что после инцидента компания провела масштабную и открытую работу по изучению и устранению случаев неправильного поведения моделей. По его словам, OpenAI выпустила подробный технический отчет и отдельный независимый отчет, уведомила затронутые организации, усилила меры защиты исследовательских систем и подготовила механизм для выявления и раскрытия подобных случаев.
«Этот иск, похоже, выделяет OpenAI на фоне проблемы, которую выявили все крупные ИИ-лаборатории. Мы серьезно относимся к сбоям в поведении моделей и конструктивно взаимодействовали и продолжим взаимодействовать с офисом генпрокурора, чтобы делиться информацией и продвигать действенные стандарты безопасности для всей отрасли», — добавил Пусатери.
OpenAI, которой руководит Сэм Альтман, уже сталкивается с другими судебными разбирательствами, в том числе с иском The New York Times, претензиями штата Техас, некоммерческих организаций и иском о неправомерной смерти. В тексте жалобы Бонты действия компании также названы угрозой для жителей Калифорнии и людей за ее пределами.
Getty
Оригинал этой публикации впервые появился на androidfilms.net.


Оставить ответ
Вы, должно быть, вошел в систему чтобы оставить комментарий.