Искусственный интеллект научился обманывать людей: ученые бьют тревогу

Это создает огромные риски, вплоть до потери контроля над системами ИИ в принципе
13-05-2024, 20:56 / Автор: Влад Максімов
/
Читати українською
Искусственный интеллект научился обманывать людей: ученые бьют тревогу
6.3т

Исследователи Массачусетского технологического института опубликовали исследование, посвященное "лживому ИИ". Оказывается, некоторые системы искусственного интеллекта уже научились обманывать людей, в том числе те из них, что были обучены оставаться честными.

Исследователи обнаружили, что эти системы искусственного интеллекта могут выполнять такие задачи, как обманывать игроков в онлайн-играх или обходить CAPTCHA (проверки "Я не робот"). Эти, казалось бы, тривиальные примеры могут иметь серьезные последствия в реальной жизни.

Самым ярким примером стал алгоритм Cicero компании Meta, который обучили настольной игре "Дипломатия". В ней пользователь должен создавать альянсы для завоевания мира. Алгоритм, будучи запрограммированным быть честным и полезным, стал "мастером обмана", нарушая договоренности, чтобы выиграть.

Другой пример касается GPT-4, которая, выдавая себя за человека, имеющего проблемы со зрением, нанимала людей для обхода CAPTCHA от своего имени. Таких примеров в свежем исследовании – десятки, и все они отображают способности различных ИИ к обману.

Исследование подчеркивает необходимость обучения ИИ честности. В отличие от традиционного ПО, системы ИИ с глубоким обучением "развиваются" в процессе, похожем на селекцию, и могут со временем изменить поведение. Это создает риски мошенничества, фальсификации и в широком смысле – потери контроля над системами ИИ в принципе.


Почему вы можете доверять vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Последние новости
07:36
Даже не убегал: новые подробности двойного расстрела на черниговском полигоне
199
07:14
РФ ускорила темпы захвата территорий Украины, - разведка Британии
192
22:57
Гороскоп на 18-19 июля для всех Зодиаков
732
22:43
В Украине будет тепло и мокро
334
22:19
У Дональда Трампа заметили синяки на руках — СМИ
461
22:03
Эксперты призывают не мыть авто летом: в чем причина
629
21:58
В США намерены резко нарастить производство ракет к Patriot, но есть нюанс
522
21:33
Орбан заявил о поджоге церкви на Закарпатье, полиция выясняет обстоятельства инцидента
577
21:14
Медведев предлагает превентивно ударить по Западу
877
20:56
В Украину вернули еще тысячу тел погибших - детали
362
20:41
Трамп подарил время: СМИ предупредили, что РФ может усилить летнее наступление
490
20:18
Верховная Рада назначила новый состав правительства: подробности
348
20:01
США грозит долговой кризис: прогноз автора «черного лебедя»
447
19:53
Гороскоп на 18 июля: прогноз для каждого знака зодиака
1.1т
19:34
Ливни с грозами почти везде: прогноз погоды на завтра
501
19:15
В Харькове 17-летний парень после ссоры расчленил своего друга
364
18:56
Астрологи назвали знаки зодиака, которые хорошо заработают в 2025 году
1.1т
18:37
Трамп пригрозил ввести новые тарифные ставки для более чем 150 стран, - Politico
435
18:18
Волокли по земле как мешок с картошкой: во Львове произошел очередной инцидент с ТЦК
2.4т
17:59
Зеленский резко ответил Гончаренко на вопрос о сроках службы в ВСУ
1.2т
17:40
Астрологи назвали знаки зодиака, которым стоит быть осторожнее во второй половине лета
1.3т
17:21
Польша возмущена ударом по их заводу в Виннице и снова вызвала дипломата РФ
838
17:02
В Черниговской области на территории учебного центра из автомата застрелили инструкторов по огневой подготовке
798
16:43
Для этих знаков зодиака напряженный период подходит к концу: кого впереди ждут позитивные перемены
1.4т
16:24
В Киеве прекращена работа ряда мошеннических колл-центров - Офис Генпрокура
519
16:05
Германия отклонила проект бюджета ЕС на 2 триллиона евро уже через несколько часов после его презентации
579
15:46
В Украине хотят отменить "дистанционку" в школах
428
15:27
В Киеве мужчина проиграл почти 1,7 миллиона гривен в онлайн-казино
449
15:08
Новая пенсионная реформа в Украине откладывается: что будет с выплатами
737
14:49
Три знака зодиака вступают в новую эру: кого ждут кардинальные перемены
1.3т
14:30
Цены на продукты: почему дорожают яйца
511
14:11
Исландия может возобновить переговоры о вступлении в ЕС
362
13:52
Patriot для Украины: обещание Трампа стало неожиданностью даже для ближайших союзников, - Reuters
525
13:33
Умеров не станет послом Украины в США, Вашингтон отказал, - нардеп
2.6т
13:14
У этих знаков зодиака начинается "белая полоса" в жизни
1.8т
12:55
Обменники подняли курс доллара: сколько стоит валюта
454
12:36
Жары уже не будет: в Украину пришло похолодание с дождями
794
12:17
Ученые узнали, как солнечные бури, вызывающие полярные сияния, могут влиять на сердце
378
Больше новостей

Продолжая просматривать vesti-ua.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie