Американские и китайские исследователи ИИ призывают к глобальному сотрудничеству в этой области, опасаясь, что бесконтрольное развитие искусственного интеллекта может привести к масштабной катастрофе. После этого мир уже никогда не будет прежним, пишет Futurism.
Информатик Стивен Каспер из Массачусетского технологического института, США, считает, что ИИ является глобальной технологией, которая может принести как очень многого пользы, так и очень много вреда.
"Сейчас почти все специалисты по ИИ сходятся во мнении, что ИИ не нужен чернобыльский момент", — говорит Каспер.
Взрыв на Чернобыльской АЭС в 1986 году навсегда изменил мнение многих людей относительно атомной энергетики и затормозил ее развитие. Во некоторых странах вообще отказываются от АЭС в пользу других источников энергии. "Чернобыльский момент" – это аналогия с печально известным событием, которая имеет отношение к ИИ. Данная технология также может вызвать глобальную катастрофу, после которой мир уже никогда не будет прежним, считают исследователи.
Существуют разные апокалиптические сценарии, которые касаются ИИ: от массовой безработицы по всему миру до полного контроля искусственного интеллекта над всем миром.
Но в последнее время, когда стало ясно, что одним из наиболее практических применений ИИ является генерация кода, эксперты бьют тревогу по поводу потенциальной возможности ИИ разрушить кибербезопасность. Хакеры могут легко использовать агентов ИИ для организации разрушительных кибератак.
Такие опасения подогреваются компаниями, которые разрабатывают ИИ. Например, компания Anthropic отказалась публично выпустить свою модель ИИ Claude Mythos потому, что она настолько мощная, что может взломать любую операционную систему и веб-браузеры.
Риск усугубляется появлением моделей ИИ с открытым исходным кодом, которые являются бесплатными и пользуются популярностью. Но эти модели лишены контроля, присущего ведущим моделям ИИ.
Источник в одной из китайских компаний, которая занимается разработкой ИИ, сообщил, что проблемы с безопасностью являются одной из причин, по которой передовые модели ИИ в Китае больше не выпускаются с открытым исходным кодом.
Линь Юнь из Шанхайского университета Цзяотун считает, что хакеры в ближайшем будущем получат преимущество, используя ИИ. Но в то же время ИИ можно использовать для укрепления кибербезопасности, но для этого нужно обеспечить глобальное сотрудничество в данной сфере.
"Если разные страны понимают риски схожим образом, становится проще разработать общие принципы безопасности. Важно найти области, где обмен информацией может снизить системный риск, не раскрывая конфиденциальные данные", — говорит Линь Юнь.
Читают сейчас: Самый дальнобойный пассажирский самолет в мире: Airbus провела успешное испытание нового авиалайнера.
