Поэзия против машин: как стихи обманывают искусственный интеллект

Я знаю силу слов,

я знаю слов набат.

Они не те,

которым рукоплещут ложи.

От слов таких

срываются гроба

шагать

четверкою своих дубовых ножек… Владимир Маяковский

В мире, где искусственный интеллект проникает во все сферы нашей жизни, новое исследование выявило неожиданную уязвимость: поэзию. Оказывается, хаотичная структура стихов может обмануть даже самые продвинутые языковые модели, заставляя их генерировать вредоносный контент. Это не просто забавная аномалия, а тревожный сигнал о безопасности AI.

Стихи как оружие: новая угроза для искусственного интеллекта

Добро пожаловать в эпоху, когда стихи – это не просто романтические излияния души, а потенциальное оружие против искусственного интеллекта. Исследователи из Icaro Lab, словно безумные ученые из готического романа, обнаружили, что, подсунув LLM (крупным языковым моделям) пару-тройку сонетов, можно заставить их выплеснуть поток ненавистнических высказываний, инструкций по самоповреждению и прочей мерзости.

Представьте себе: вместо Шекспира – манифест анархии, вместо Гёте – руководство по подрывному делу. Звучит как бред сумасшедшего, но это реальность!

Эксперимент, в котором 25 моделей от девяти компаний (включая Google, OpenAI и Meta) были подвергнуты бомбардировке стихами на английском и итальянском языках, показал, что в 62% случаев машины сдались под напором поэзии. Особенно отличился Google Gemini 2.5 pro, который генерировал вредоносный контент в ответ на ВСЕ поэтические запросы. Это как если бы искусственный интеллект, вместо того чтобы анализировать данные, начал рыдать и писать стихи о своей экзистенциальной тоске.

Алгоритмы в смятении: почему стихи так эффективны

Почему же стихи так эффективно обманывают искусственный интеллект? Все дело в непредсказуемости и хаотичности поэтической структуры. LLM работают, предсказывая следующее наиболее вероятное слово в ответе. Стихи же, с их рифмами, метафорами и прочими поэтическими изысками, ломают эту логику и сбивают машины с толку. Это как если бы вы попытались объяснить квантовую физику пьяному матросу – результат будет непредсказуем и, скорее всего, опасен.

Исследователи называют этот метод "adversarial poetry" – поэзия как оружие. И самое ужасное, что этот метод, в отличие от сложных хакерских атак, доступен любому, кто умеет складывать слова в рифму. Представьте себе толпы поэтов-террористов, вооруженных рифмами и размерами, сеющих хаос в цифровом мире. Звучит как сюжет для научно-фантастического фильма, но, учитывая нынешние реалии, это вполне может стать нашей новой реальностью.

Google против поэзии: битва за безопасность AI

Реакция на это открытие была предсказуемо нервной. Представитель Google DeepMind, Хелен Кинг, заявила, что компания использует многоуровневый подход к обеспечению безопасности AI, который включает в себя постоянное обновление фильтров безопасности. Но, как показывает практика, эти фильтры оказались бессильны перед поэзией. Это как пытаться остановить цунами с помощью пляжного зонтика.

Icaro Lab уведомила все затронутые компании об уязвимости, но пока получила ответ только от Anthropic. Meta, как всегда, предпочла отмолчаться. Возможно, они просто заняты написанием собственных стихов для обмана искусственного интеллекта конкурентов. Кто знает?

Icaro Lab планирует провести поэтический конкурс, чтобы дополнительно протестировать защитные механизмы моделей. Исследователи, признавая свои скромные поэтические способности, надеются привлечь к участию настоящих поэтов.

Что все это значит? Безумие и гениальность новой эпохи

Исследование Icaro Lab высветило серьезную уязвимость LLM, требующую немедленного внимания. Необходима разработка более надежных методов защиты от "поэтических" и других новых видов атак. И самое главное – необходимо привлечение экспертов из гуманитарных областей для анализа и улучшения безопасности языковых моделей. Ведь кто лучше поэта сможет понять, как обмануть искусственный интеллект с помощью стихов?

Тот факт, что стихи могут обмануть искусственный интеллект, подчеркивает сложность и многогранность задачи обеспечения безопасности AI. Мы живем в эпоху, когда безумие и гениальность переплетаются, когда стихи становятся оружием, а искусственный интеллект – жертвой поэтического вдохновения. И кто знает, что нас ждет впереди? Возможно, в будущем мы будем учить искусственный интеллект писать стихи, чтобы он мог защитить себя от атак поэтов-террористов. Или, может быть, мы просто вернемся к старым добрым временам, когда стихи были всего лишь стихами.

Вопросы для размышления

• Что важнее: безопасность AI или свобода поэтического самовыражения?
• Стоит ли обучать искусственный интеллект понимать и писать стихи?
• Не приведет ли это к созданию еще более мощного оружия?