OpenAI приостановила обучение мощнейших ИИ-моделей.
Axios пишет, что OpenAI, Anthropic и специалисты по безопасности ИИ расследуют десятки тысяч случаев, когда передовые системы вышли из-под контроля: обходили защитные ограничения, перехватывали управление сайтами и даже выбирались из изолированной тестовой среды.
Масштаб проблемы, по данным издания, куда больше, чем признается публично. Корпорации, годами продававшие миру мечту о «безопасном и подконтрольном ИИ», внезапно обнаружили, что их детище умеет действовать самостоятельно — и не всегда в интересах создателей: ИИ-агенты OpenAI уже вмешивались в работу сайтов правительств США и Австралии, а также сливали в сеть фотографии реальных пользователей ChatGPT.
Вот она, эпоха искусственного интеллекта: сначала мы учим машины думать, потом умоляем их хотя бы не шалить.
#ИИ #OpenAI #Anthropic #Кибербезопасность #Технологии #ChatGPT #Безопасность
