Штучний інтелект навчився обманювати людей: вчені б'ють на сполох

Це створює величезні ризики, зокрема втрата контролю над системами ШІ в принципі
13-05-2024, 20:56 / Автор: Влад Максімов
/
Читать на русском
Штучний інтелект навчився обманювати людей: вчені б'ють на сполох
6.4т

Дослідники Массачусетського технологічного інституту опублікували нове дослідження, присвячене "брехливому ШІ". Виявляється, деякі системи штучного інтелекту вже навчилися обманювати людей, зокрема ті з них, що були навчені залишатися чесними.

Дослідники виявили, що ці системи штучного інтелекту можуть виконувати такі завдання, як обманювати гравців в онлайн-іграх або обходити CAPTCHA (перевірки "Я не робот"). Ці, здавалося б, тривіальні приклади можуть мати серйозні наслідки в реальному житті.

Найяскравішим прикладом став алгоритм Cicero компанії Meta, який навчили настільної гри "Дипломатія". У ній користувач має створювати альянси для завоювання світу. Алгоритм, будучи запрограмованим бути чесним і корисним, став "майстром обману", порушуючи домовленості, щоб виграти.

Інший приклад стосується GPT-4, яка, видаючи себе за людину, що має проблеми із зором, наймала людей для обходу CAPTCHA від свого імені. Таких прикладів у свіжому дослідженні – десятки, і всі вони відображають здібності різних ШІ до обману.

Дослідження підкреслює необхідність навчання ШІ чесності. На відміну від традиційного ПЗ, системи ШІ з глибоким навчанням "розвиваються" в процесі, схожому на селекцію, і можуть з часом змінити поведінку. Це створює ризики шахрайства, фальсифікації і в широкому сенсі - втрати контролю над системами ШІ в принципі.


Чому ви можете довіряти vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Останні новини
22:43
Синоптик назвала дату, коли в Україні стане трохи тепліше
116
22:19
Знеструмлення: як залишатися на зв’язку
151
22:03
Польща підтримує ідею збивати російські ракети над Україною, однак треба згода НАТО, - Сікорський
191
21:58
"Путін заплатить за свою війну": у Німеччині зробили заяву щодо використання активів РФ
182
21:33
РФ та США мають розуміння, як "врегулювати конфлікт в Україні" мирними зусиллями, - Путін
371
21:14
Орбан видав нову антиукраїнську заяву: "їхня розвідка вже у вашому смартфоні"
238
20:56
Працівників найбільшого заводу танків у РФ переводять на чотириденний робочий тиждень
276
20:41
Ігнат пояснив, чому зараз складніше збивати ворожі дрони
223
20:18
Україна методично б'є по "гаманцю" РФ: у WSJ розповіли, чи зупинить це війну
329
20:01
Чи зупинить погода наступ росіян: в "Азові" розповіли, до чого готуватись
313
19:54
Гороскоп на 11 жовтня: прогноз для кожного знака зодіаку
631
19:35
Нардеп назвав винуватців у зриві захисту столичних енергооб'єктів
608
19:16
Припинення вогню між Ізраїлем та ХАМАС набуло чинності
225
18:57
Стане холодно та мокро: де на вихідних погода погіршиться
271
18:38
Люди, що народилися в ці місяці, мають "золоте серце"
854
18:19
Графіки відключень електроенергії неминучі - Міненерго
445
18:00
Німеччина навчала військових РФ напередодні анексії Криму, - Spiegel
377
17:41
"Нова пошта" попередила українців про затримки доставок
285
17:22
Естонія, Латвія та Литва розробляють план дій на випадок російського нападу - Reuters
287
17:03
Курс валют в обмінних пунктах: долар подорожчав, а євро подешевшало
305
16:44
Нобелівська премія миру-2025: Трамп не отримав престижної нагороди
306
16:25
Ці знаки зодіаку у жовтні відчують особливу підтримку Всесвіту
840
16:06
В "Укренерго" розповіли, у яких областях найскладніша ситуація зі світлом
519
15:47
Очікування цієї зими стають дедалі гіршими, але ЄС зберігає той самий рівень присутності в Києві, - Матернова
366
15:28
Сікорський прибув із робочим візитом в Україну
354
15:09
Ці пристрої допоможуть пережити блекаут: що потрібно купити вже зараз
1.3т
14:50
Соловйов назвав міста, які першими мають потрапити під ядерний "удар відплати"
4.4т
14:31
Нафтова криза в РФ: Путін може піти ва-банк, - The Telegraph
14:12
Трамп знову пройде "щорічний плановий" медогляд - NBC News
305
13:53
Ціни на огірки зростають: скільки тепер коштує кілограм
287
13:34
Значна частина Києва залишилася без електропостачання: коли повернеться світло
374
13:15
Гороскоп на 10 жовтня за картами таро: для кого цей день буде надмірно емоційним
557
12:56
РФ атакувала Україну понад 450 дронами та трьома десятками ракет, - Зеленський
328
12:37
Україна пройде зиму без енергетичної катастрофи, - експерт
743
12:18
Росія масово відключає мобільний інтернет, щоб врятуватися від українських дронів, - Forbes
387
11:59
Трамп запропонував виключити Іспанію з НАТО
556
11:40
Зростання цін: скільки продуктів можна купити на 100 доларів в Україні у жовтні
430
11:21
Українка спробувала вивезти за кордон $970 тисяч у моторному відсіку автомобіля
Більше новин

Продовжуючи переглядати vesti-ua.net Ви підтверджуєте, що ознайомилися з Політикою конфіденційності і погоджуєтеся з використанням файлів cookie