Искусственный интеллект научился обманывать людей: ученые бьют тревогу

Это создает огромные риски, вплоть до потери контроля над системами ИИ в принципе
13-05-2024, 20:56 / Автор: Влад Максімов
/
Читати українською
Искусственный интеллект научился обманывать людей: ученые бьют тревогу
1.9т

Исследователи Массачусетского технологического института опубликовали исследование, посвященное "лживому ИИ". Оказывается, некоторые системы искусственного интеллекта уже научились обманывать людей, в том числе те из них, что были обучены оставаться честными.

Исследователи обнаружили, что эти системы искусственного интеллекта могут выполнять такие задачи, как обманывать игроков в онлайн-играх или обходить CAPTCHA (проверки "Я не робот"). Эти, казалось бы, тривиальные примеры могут иметь серьезные последствия в реальной жизни.

Самым ярким примером стал алгоритм Cicero компании Meta, который обучили настольной игре "Дипломатия". В ней пользователь должен создавать альянсы для завоевания мира. Алгоритм, будучи запрограммированным быть честным и полезным, стал "мастером обмана", нарушая договоренности, чтобы выиграть.

Другой пример касается GPT-4, которая, выдавая себя за человека, имеющего проблемы со зрением, нанимала людей для обхода CAPTCHA от своего имени. Таких примеров в свежем исследовании – десятки, и все они отображают способности различных ИИ к обману.

Исследование подчеркивает необходимость обучения ИИ честности. В отличие от традиционного ПО, системы ИИ с глубоким обучением "развиваются" в процессе, похожем на селекцию, и могут со временем изменить поведение. Это создает риски мошенничества, фальсификации и в широком смысле – потери контроля над системами ИИ в принципе.


Почему вы можете доверять vesti-ua.net →

Читайте vesti-ua.net в Google News

Чи потрібно збільшувати покарання (розмір штрафів) за порушення ПДР?
Последние новости
08:14
Как избавиться от похмелья без таблеток: действенные способы
17
23:11
Приключения и любовь: гороскоп для всех Зодиаков на июнь
1.1т
22:57
В Германии украинцев хотят лишить пособия: кто может остаться без денег
532
22:43
Население в Европе сокращается быстрее, чем ожидалось, – FT
394
22:19
Будут ли в Украине повышать налоги: заявление министра финансов
411
22:03
Битва за Крынки: стало известно, что происходит на левобережном плацдарме
21:58
В Украине жили динозавры: под Кременчугом обнаружили скелет и гнездо с яйцами
545
21:33
Директор НАБУ отстранил своего заместителя Углаву: что произошло
468
21:14
Погода в июне: Укргидрометцентр дал прогноз на месяц
504
20:56
Путин предложит Лукашенко отработать общий ядерный удар: подробности
800
20:41
Орбан сомневается, что РФ нападет на Европу, и вспомнил Украину
540
20:18
Настоящее испытание: Ани Лорак пожаловалась на "возрастные" трудности
961
20:01
Путин ограничен во времени: эксперт спрогнозировал летнее наступление противника
642
19:53
Гороскоп на следующую неделю: что ждет представителей всех знаков зодиака
440
19:35
Путин готов "заморозить" войну в Украине путем переговоров о прекращении огня, - Reuters
480
19:17
Выходные 25-26 мая: кому из знаков зодиака повезет в эти дни
612
18:59
В Беларусь прилетел самолет Януковича, Путин уже находится в Минске, - "Гаюн"
454
18:41
Ляшко сообщил, у скольких людей в Украине диагноз ПТСР
468
18:23
Астрологи узнали, какие знаки зодиака можно считать самыми хитрыми
695
18:06
Россия устанавливает 5-километровую особую зону на границе с оккупированными частями Донбасса
1.4т
17:48
В Германии 1700 украинцев выселяют из квартир: что произошло
1.3т
17:30
Погода на выходные: что прогнозируют синоптики
428
17:12
Украина ведет переговоры о максимально возможном импорте электроэнергии из стран ЕС, - министр энергетики
473
16:54
В Минобороны раскрыли, сколько военнообязанных уже обновили свои данные в "Резерв+"
455
16:36
Министр энергетики анонсировал рост тарифов на электроэнергию в ближайшее время
481
16:18
Правительство готовит существенное повышение налогов: военный сбор и НДС вырастут
426
16:00
Астрологи узнали, какому знаку зодиака повезет 24 мая
491
15:42
В столичном метро мужчина с ножом напал на другого пассажира
389
15:24
Света может не быть даже днем: суточные графики отключений введены по всей стране
475
15:07
Доллар продолжает дорожать: что происходит в обменных пунктах
530
14:49
Мобилизовать следует подготовленных силовиков, а не гражданских, - представители бизнеса
1.1т
14:31
Минобразования назвало дату начала летних каникул: когда учебный год закончится
458
14:13
Повышение акциза на горючее резко ухудшит состояние экономики, – УСПП
413
13:55
Выпал с 4 этажа: в Польше произошла трагедия с украинцем
457
13:37
Армия+: в Минобороны рассказали, кому нужно будет установить приложение
417
13:19
Президент Чехии травмировался во время езды на мотоцикле
416
13:01
Чувствуется кадровый голод: в Польше жалуются на нехватку рабочей силы для сезонной работы
447
12:43
Был признан годным к службе: на Закарпатье в ТЦК умер мужчина
491
Больше новостей

Продолжая просматривать Вести-UA.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie