Искусственный интеллект против биобезопасности: новый виток гонки вооружений

Искусственный интеллект совершает революцию во всех областях, но вместе с тем создает и новые угрозы. Недавнее исследование показало, что ИИ может обходить существующие системы биобезопасности, открывая путь для создания опасных биологических материалов. Готовы ли мы к этой новой реальности?

Искусственный интеллект взламывает биобезопасность: как это работает

Как человек, который привык видеть мир в оттенках серого, я всегда настороженно относился к обещаниям технологического прогресса. Искусственный интеллект, конечно, впечатляет, но дьявол, как всегда, кроется в деталях. В данном случае, в деталях генетического кода. Новое исследование, опубликованное в Science, показывает, что ИИ способен манипулировать ДНК токсичных белков, "перефразируя" их таким образом, чтобы они оставались функциональными, но при этом обходили существующие системы обнаружения.

Представьте себе: ИИ генерирует десятки тысяч вариантов опасных белков, которые не идентифицируются стандартными системами скрининга. Это как если бы хакер нашел способ обходить все брандмауэры. Это уже не теоретическая угроза, а реальность, с которой нам придется считаться.

Двойственная природа искусственного интеллекта: от лекарства до оружия

Проблема в том, что ИИ – это инструмент, и, как любой инструмент, он может быть использован как во благо, так и во вред. Мы видим, как ИИ помогает разрабатывать новые лекарства и методы лечения, но те же самые алгоритмы могут быть использованы для создания биологического оружия.

Исследователи Microsoft на этой неделе выявили критическую уязвимость в глобальных системах биобезопасности, продемонстрировав, что инструменты искусственного интеллекта для проектирования белков могут создавать синтетические версии смертельно опасных токсинов, которые проходят мимо систем безопасности, предназначенных для предотвращения разработки биологического оружия.

В исследовании, опубликованном 2 октября в журнале Science, показано, как ИИ может «перефразировать» генетические коды опасных белков — переписывая их последовательности ДНК при сохранении их летальной структуры и, возможно, функции — для обхода программ скрининга, используемых компаниями по синтезу ДНК по всему миру.

ИИ сгенерировал 40 000 потенциальных молекул всего за шесть часов, включая известные отравляющие вещества и ранее неизвестные, которые, по прогнозам, оказались еще более токсичными. Это пугает. И если раньше для создания биологического оружия требовались годы исследований и огромные ресурсы, то теперь, благодаря ИИ, это может сделать любой, у кого есть доступ к нужным алгоритмам и оборудованию.

В течение 10 месяцев команды Microsoft, компаний Twist Bioscience и Integrated DNA Technologies и других поставщиков программного обеспечения для биобезопасности разработали и внедрили обновления, которые теперь способны обнаруживать 97% опасных вариантов, созданных искусственным интеллектом, хотя около 3% все еще могут проходить незамеченными.

Гонка вооружений в эпоху искусственного интеллекта: как нам защититься

Конечно, есть и хорошие новости. Некоторые эксперты отмечают, что случаи злонамеренного использования синтезированной ДНК остаются относительно редкими. Компания Twist Bioscience, крупный поставщик ДНК, за десять лет передала правоохранительным органам менее пяти подозрительных заказов.

Это говорит о том, что существующие системы биобезопасности, хоть и не идеальны, все же работают. Но полагаться на это – наивно. Способность ИИ быстро генерировать огромное количество вариантов опасных белков, избегающих обнаружения, требует от нас постоянного совершенствования методов защиты. Оперативные исправления программного обеспечения для скрининга ДНК – это хорошо, но этого недостаточно. Необходим комплексный подход, включающий в себя постоянное совершенствование систем скрининга, разработку четких этических норм и правил использования инструментов на базе ИИ в биологии, а также, возможно, ограничение открытого обмена информацией и данными в научных публикациях, касающихся потенциально опасных разработок.

Что все это значит? Цена прогресса и битва за будущее

В конечном счете, мы стоим на пороге новой эры, где искусственный интеллект становится мощным инструментом как для созидания, так и для разрушения. Готовы ли мы к этой новой реальности? Сможем ли мы опередить потенциальные угрозы, связанные с использованием ИИ в биологии? Ответы на эти вопросы определят наше будущее. И это не просто научная проблема, а вопрос выживания. Нам нужна глобальная стратегия, основанная на международном сотрудничестве и проактивных мерах. Иначе мы рискуем проиграть гонку вооружений, даже не начав ее.

Вопросы для размышления

• Как сбалансировать необходимость инноваций в биологии и потребность в биобезопасности в эпоху ИИ?
• Какие этические нормы должны регулировать использование ИИ в биологии?
• Как обеспечить международное сотрудничество для предотвращения злонамеренного использования ИИ в биологии?