Штучний інтелект навчився обманювати людей: вчені б'ють на сполох

Це створює величезні ризики, зокрема втрата контролю над системами ШІ в принципі
13-05-2024, 20:56 / Автор: Влад Максімов
/
Читать на русском
Штучний інтелект навчився обманювати людей: вчені б'ють на сполох
6.2т

Дослідники Массачусетського технологічного інституту опублікували нове дослідження, присвячене "брехливому ШІ". Виявляється, деякі системи штучного інтелекту вже навчилися обманювати людей, зокрема ті з них, що були навчені залишатися чесними.

Дослідники виявили, що ці системи штучного інтелекту можуть виконувати такі завдання, як обманювати гравців в онлайн-іграх або обходити CAPTCHA (перевірки "Я не робот"). Ці, здавалося б, тривіальні приклади можуть мати серйозні наслідки в реальному житті.

Найяскравішим прикладом став алгоритм Cicero компанії Meta, який навчили настільної гри "Дипломатія". У ній користувач має створювати альянси для завоювання світу. Алгоритм, будучи запрограмованим бути чесним і корисним, став "майстром обману", порушуючи домовленості, щоб виграти.

Інший приклад стосується GPT-4, яка, видаючи себе за людину, що має проблеми із зором, наймала людей для обходу CAPTCHA від свого імені. Таких прикладів у свіжому дослідженні – десятки, і всі вони відображають здібності різних ШІ до обману.

Дослідження підкреслює необхідність навчання ШІ чесності. На відміну від традиційного ПЗ, системи ШІ з глибоким навчанням "розвиваються" в процесі, схожому на селекцію, і можуть з часом змінити поведінку. Це створює ризики шахрайства, фальсифікації і в широкому сенсі - втрати контролю над системами ШІ в принципі.


Чому ви можете довіряти vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Останні новини
22:57
Що обговорювали Ердоган та Зеленський у Туреччині: з'явилися деталі
298
22:43
Погода здивує контрастами: прогноз на 16 травня
176
22:19
Статус окупованих територій після війни: Зеленський окреслив позицію Києва
497
22:03
Хоче дійти до околиць Києва: Путін спробує захопити якнайбільше територій, - CNN
526
21:58
Буданов прокоментував ймовірний літній наступ РФ
813
21:33
Працюватимуть як Starlink: вчені створили чіп для малих супутників
251
21:14
Україна має лише один спосіб перемогти Росію, і Трамп його блокує, - The Hill
20:56
Кремль не боїться ні санкцій, ні тиску ЄС і не піддається вмовлянням Трампа, — CNN
608
20:41
Зеленський закликав Путіна зустрітися без будь-яких умов
392
20:18
Трамп заявив, що переговори не зрушать з місця, поки він не зустрінеться з Путіним
404
20:01
"Гавкають із Москви": Захарова образила Зеленського, МЗС України відповіло
895
19:54
Гороскоп на 16 травня: прогноз для всіх знаків зодіаку
830
19:35
Підуть дощі та стане холодніше: прогноз погоди на завтра
334
19:16
Ціни на низку продуктів в Україні впали: як знизилася вартість яєць
304
18:57
Путіна звинуватили у підриві переговорів з Україною: "Намагається виграти час"
658
18:38
На ці чотири знаки зодіаку чекають приємні події у травні
789
18:19
У ПФУ прокоментували скандальне відео з напівоголеними жінками у вікні
1.7т
18:00
Яким буде курс долара найближчим часом: прогноз аналітиків
380
17:41
Навіть один укус мошки може спричинити серйозну реакцію організму, - лікар-алерголог
399
17:22
Гора перетворилася на мишу: дипломат прокоментував переговори України та РФ у Стамбулі
965
17:03
Для деяких знаків зодіаку кінець весни стане періодом швидкого кар'єрного зростання
832
16:44
Ціни на оренду квартир зросли: що відбувається на ринку нерухомості останнім часом
413
16:25
"Навіщо йому їхати, якщо мене там не буде": Трамп прокоментував відмову Путіна від відвідування Стамбула
610
16:06
ГУР вперше представило нові морські дрони Magura
347
15:47
Для деяких знаків зодіаку травень буде особливо невдалим місяцем
840
15:28
Потужний спалах на Сонці викликав відключення радіозв'язку в багатьох куточках Землі
492
15:09
Трамп може відвідати завтра Стамбул "якщо це буде доречно", - The Guardiuan
404
14:50
Мита Трампа призвели до мільярдних збитків найбільших японських виробників, - Bloomberg
552
14:31
В Естонії розкритикували склад делегації РФ на переговорах у Стамбулі
461
14:12
Синоптик уточнив, коли українцям варто розраховувати на підвищення температури
563
13:53
Нічна атака дронами була «нетиповою»: куди долетіли ворожі безпілотники
659
13:34
США хочуть побачити прогрес у питанні мирного врегулювання війни в Україні, - Рубіо
380
13:15
Обмінники виставили нові курси валют: скільки сьогодні коштують долар та євро
623
12:56
Астрологи назвали 4 знаки зодіаку, в житті яких ось-ось почнеться "біла смуга"
1.6т
12:37
Про що говоритимуть Україна та РФ у Стамбулі: у The Wall Street Journal дізналися подробиці
446
12:18
Росія прагне продовжити перервані у 2022 році переговори з Україною, - FT
390
11:59
Українцям можуть перерахувати пенсії: Верховний суд ухвалив історичне рішення
2.6т
11:40
В Україні підрахували вартість борщу: скільки тепер коштує перша страва
665
Більше новин

Продовжуючи переглядати Вісті-UA.net Ви підтверджуєте, що ознайомилися з Політикою конфіденційності і погоджуєтеся з використанням файлів cookie