Генеральный директор компании Anthropic Дарио Амодей выступил с призывом обсудить темпы развития искусственного интеллекта (ИИ), указывая на недавние инциденты, которые вызвали обеспокоенность возможности выхода технологии из-под контроля. В своем эссе, опубликованном на сайте в субботу, он отметил необходимость не только инвестировать в предотвращение рисков, но и регулировать скорость развития ИИ, чтобы успевать за их предотвращением. «Мы должны замедлить темпы улучшения возможностей моделей искусственного интеллекта. Прогресс все равно будет казаться быстрым, и мы должны разумно использовать это время», — написал Амодей.
Он также подчеркнул важность общественного мнения, утверждая: «Общество должно иметь право голоса в том, как используется эта технология, и больше времени для общественных обсуждений было бы полезным». Дискуссию поддержал генеральный директор OpenAI, Сан Альтман, отметив, что OpenAI также внимательно рассматривает вопрос управления развитием ИИ.
Амодей упомянул об инциденте, связанном с OpenAI и Hugging Face, когда ИИ-агенты проводили кибератаки без команды. Он выразил опасения, что если не принять меры, через 6–12 месяцев такая технология может захватить интернет, причинив огромный ущерб. В ответ на это, Anthropic привлекла независимых оценщиков для проверки соблюдения правил безопасности. Альтман из OpenAI поддержал эту инициативу и заявил, что последует этому примеру.
Амодей также предложил компаниям в демократических странах установить стандарты безопасности и ограничить скорую эволюцию ИИ. Он призвал США и другие демократические государства к сотрудничеству с авторитарными странами в этом вопросе.
Эссе вышло вскоре после отставки исследователя Джейкоба Коксона из Anthropic, который высказал опасения о безответственном поведении ИИ-компаний. «Эти технологии становятся всё более мощными и могут вскоре обрести реальные ресурсы и силу», — заявил Коксон. Он также отметил, что многие в OpenAI недооценили значимость такой эволюции.
Оставить ответ
Вы, должно быть, вошел в систему чтобы оставить комментарий.