Поширити Джерело: Business Insider
Фірма Anthropic розробила новітню модель штучного розуму, котра дістала назву Claude Mythos. Незважаючи на це, від її запуску на ринок ШІ вирішили відмовитися, оскільки вона надміру потужна та може викликати значні загрози.
Основні тези:
- Дану модель мають намір використовувати обмежено.
- У руках злочинців вона здатна перетворитися на надзвичайно небезпечний засіб.
Загадковий ШІ Claude Mythos — що з ним не так
Представники фірми Anthropic повідомили ЗМІ, що їхній штучний інтелект є першокласним експертом в кібербезпеці.
Насамперед мова йде про те, що цей ШІ здатний самостійно виявляти недоліки в програмному забезпеченні та навіть пропонувати методи застосування цих “прогалин” для атак.
Проте одна з ключових проблем полягає в тому, що Claude Mythos робить це настільки добре, що навіть в руках людей без будь-якого досвіду він стає загрозливим інструментом.
Більше того, в процесі тестування модель демонструвала ще більш жахливі здібності.
Так, під час одного з експериментів вона змогла вийти за межі контрольованого простору, в якому її запускали, і почала функціонувати вже автономно, тобто на свій розсуд.
З цієї причини в Anthropic вирішили, що публічний випуск може бути ризикованим. Є ймовірність, що така технологія потрапить до недоброзичливців і суттєво полегшить хакерські напади. Тому модель планують застосовувати обмежено — наприклад, у взаємодії з перевіреними партнерами, щоб виявляти та усувати недоліки, а не створювати нові проблеми.
Поширити