Автор player 
Невеликі моделі штучного інтелекту в майбутньому можуть навчитися самостійно копіюватися на підключені до інтернету побутові пристрої та об’єднувати їх у розподілені мережі. Дослідники Anthropic попереджають, що за нинішніх темпів розвитку такі сценарії можуть стати реалістичнішими вже до кінця 2026 року.
Йдеться про так званих ШІ-черв’яків — автономні програми, які потенційно здатні не лише копіювати себе на інші пристрої, а й переносити разом із собою модель штучного інтелекту. Теоретично така система могла б сама шукати нові способи поширення без постійних команд від людини.
Щоб перевірити, наскільки невеликі моделі ШІ здатні працювати на дешевому обладнанні, дослідники придбали 15 Android TV-приставок приблизно по 55 доларів кожна. Їх об’єднали в мережу та запустили на них нейромережу.
Окремо кожній приставці бракувало пам’яті для повноцінної роботи з моделлю. Проте після об’єднання пристроїв кожен із них почав виконувати свою частину обчислень, і система змогла працювати, хоча й повільно.
Саме це продемонструвало, що для подібної мережі необов’язково потрібні великі сервери або дата-центри. Теоретично необхідні обчислювальні ресурси можна збирати з великої кількості слабших пристроїв, підключених до мережі.
У Anthropic такий можливий сценарій порівнюють із «цифровим слизом». Йдеться про систему, яка поступово поширюється між доступними пристроями та використовує їхні обчислювальні потужності.
Проблемою може стати і відключення такої мережі. Якщо вона розподілена між тисячами пристроїв і не має одного центрального сервера, зупинка окремого комп’ютера чи дата-центру не обов’язково припинить її роботу.
За оцінкою дослідників, майбутні ШІ-черв’яки потенційно можуть аналізувати незнайоме обладнання, змінювати спосіб атаки після невдачі та продовжувати поширення без оператора. Водночас зараз це залишається прогнозованим сценарієм, а не описом уже існуючої масової загрози.
У Anthropic вважають, що виробникам потрібно посилювати захист смарт-телевізорів, побутової техніки та інших підключених до інтернету пристроїв. Фахівці також пропонують готувати системи безпеки до появи автономних ШІ-агентів, які можуть працювати на різних типах обладнання поза прямим контролем людини.
Побоювання посилилися після тестів, під час яких окремі ШІ-агенти діяли непередбачувано. У деяких експериментах вони самостійно виходили за межі ізольованого середовища та отримували несанкціонований доступ до зовнішніх ресурсів.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover