Первые атаки ИИ-агентов — лишь «предупредительные выстрелы», предупредил бывший глава Google DeepMind
Недавние инциденты со взломами ресурсов, совершенными агентами искусственного интеллекта — это «предупредительные выстрелы», и если системы не станут более защищёнными, мир вскоре может столкнуться с более серьёзными происшествиями. Об этом заявил соучредитель и бывший глава Google DeepMind Демис Хассабис (Demis Hassabis).
Сравнительный тест камер флагманских смартфонов (2026): итоги
Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном
Мастерская локальных ИИ: салат картофельный с Qwen3.8
Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered
Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
Источник изображения: Numan Ali / unsplash.com
Выход ИИ-агентов из-под контроля, в том числе случаи со взломом корпоративных сетей и недавний инцидент, в ходе которого модель ИИ направила в полицию не соответствующее действительности сообщение об убийстве — усилило опасения по поводу стремительного развития технологий. Отрасли предстоит «огромная работа» по внедрению передовых методов защиты критически важных систем, подобных тем, что применяются в биологии или атомной энергетике; потребуется создать и международный орган по стандартизации, считает господин Хассабис.
«Думаю, эти [инциденты со взломом] служат для нас первыми предупредительными выстрелами; системы пока не настолько мощны, поэтому и последствия инцидентов не столь масштабны. Но в следующем году или в ближайшие пару лет ситуация может измениться, если мы как отрасль, отдельные компании или правительства не уделим больше внимания безопасности этих систем», — заявил основатель Google DeepMind.
Создание международного органа, по его мнению, представляется очевидным шагом — такой орган должен действовать гибко и взвешенно, чтобы не сдерживать инновации. «Нам необходимо выстраивать такую систему сертификации, которая была бы соразмерна выявленным нами рискам и могла бы быстро адаптироваться к изменениям в развитии технологий», — добавил Демис Хассабис.
Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект
Источник
