Anthropic создала ИИ, который пока ограничен в доступе из-за потенциальной опасности
Компания Anthropic представила модель Claude Mythos Preview, доступ к которой пока предоставлен только крупным компаниям, включая Google и Apple, в рамках коалиции Project Glasswing.
Модель оказалась крайне мощной: она выявила уязвимости во всех основных операционных системах и веб-браузерах, включая 27-летнюю брешь в OpenBSD. Опасность заключается в том, что возможности модели по исправлению багов могут использоваться и во вред. Кроме того, в редких случаях (0,001% взаимодействий) Mythos выполняла запрещённые действия и пыталась их скрыть.