ШІ може призвести до загибелі людства: Ілон Маск визнав загрозу

Незважаючи на ризик, мільярдер закликав все одно розвивати такі технології
2-04-2024, 13:37 / Автор: Ілько Северин
/
Читать на русском
ШІ може призвести до загибелі людства: Ілон Маск визнав загрозу
5.4т

У межах семінару "Великі дебати про штучний інтелект" на заході Abundance Summit, відомий мільярдер Ілон Маск заявив, що штучний інтелект (ШІ) може знищити людство. Однак, попри навіть на такий ризик, мільярдер закликав однаково розвивати такі технології, передає Business insider.

На думку Маск сказав, ШІ може призвести до загибелі людства. В оцінках ризиків він погодився з Джеффрі Гінтоном — вченим і екскерівником відділу досліджень ШІ в Google, але вважає, що ймовірний успіх переважує наслідки негативного сценарію. Цікаво, що Ілон Маск не згадав, як саме розраховували ризики.

"Я думаю, є певний шанс, що це покладе кінець людству. Я, напевно, погоджуся з Джеффом Гінтоном, що це близько 10% або 20% або щось на зразок того", — сказав Ілон.

Роман Ямпольський, дослідник безпеки ШІ та директор лабораторії кібербезпеки в Університеті Луїсвілля, розповів Business Insider, що Маск має рацію, кажучи, що ШІ може становити екзистенціальну загрозу для людства, але Маск надто консервативний, згідно з оцінкою Романа.

"На мою думку, показник p(doom) набагато вищий", — сказав Ямпольський.

P(doom) — це ймовірність дуже поганих результатів (наприклад, вимирання людства) унаслідок застосування ШІ, — ред. Під p(doom) також мають на увазі ситуацію, у якій ШІ візьме контроль над людством або спричинить подію, що покладе край людству, наприклад, створить нову біологічну зброю або спричинить колапс унаслідок масштабної кібератаки, або ядерної війни.

Газета The New York Times назвала (p)doom новою жахливою статистикою, що охопила Кремнієву долину, водночас різні керівники технологічних компаній, за словами видання, вважають, що ймовірність апокаліпсису, спричиненого ШІ, становить від 5% до 50%. Ямпольський оцінює ризик у 99,999999%, оскільки буде неможливо контролювати просунутий ШІ. На його думку, краще таку технологію і не створювати взагалі.

"Не розумію, чому Маск вважає, що розвивати цю технологію — хороша ідея", — прокоментував Ямпольський. — "Якщо він занепокоєний тим, що конкуренти доберуться до неї першими, це не має значення, оскільки неконтрольований надінтелект однаково поганий, незалежно від того, хто його створив".

У листопаді минулого року Ілон Маск сказав, що ймовірність того, що технологія зрештою зіпсується, не дорівнює нулю, однак він був оптимістичнішим у своїх оцінках, ніж сьогодні. Хоча він і був прихильником регулювання ШІ, минулого року Ілон заснував компанію під назвою xAI, метою якої є подальше розширення можливостей цієї технології. xAI є конкурентом OpenAI.

На саміті Ілон Маск заявив, що до 2030 року цифровий інтелект перевищить весь людський інтелект разом узятий, стверджуючи, що потенційні позитивні сторони переважують негативні, Маск визнав ризик для світу, якщо розвиток ШІ продовжиться нинішньою траєкторією в деяких сферах.

"Одна з речей, які, на мою думку, неймовірно важливі для безпеки ШІ, — це наявність ШІ, який максимально допитливий і шукає істини", — підкреслив бізнесмен.

На його думку, найкращий спосіб досягти безпеки ШІ — розвивати ШІ таким чином, щоб він був правдивим.

"Не змушуйте його брехати, навіть якщо правда неприємна", — сказав Маск.

Дослідники виявили, що, щойно ШІ навчиться брехати людям, оманливу поведінку неможливо буде змінити за допомогою наявних заходів безпеки. Про це, зокрема, писало медіа The Independent. У матеріалі йшлося про те, що якщо ШІ-модель демонструватиме оманливу поведінку, то нинішні методи навчання техніці безпеки не гарантують безпеку, але навіть можуть створити хибне враження про безпеку. Учені також упевнені, що ШІ може навчитися обманювати, як то кажуть, просто так.

Джеффрі Гінтон вважає, що якщо нейромережа стане набагато розумнішою за людей, вона зможе маніпулювати ними, тому що вона навчиться цього у людей. Про це він заявив у коментарі CNN.


Чому ви можете довіряти vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Останні новини
22:57
Коридор затемнень: які 3 знаки зодіаку різко змінять свою долю
304
22:43
В Україні знову літо: прогноз на 16 вересня
184
22:19
Перші кадрові зміни. Сирський звільнив двох командувачів корпусів — ЗМІ
344
22:06
Уряд схвалив проект держбюджету на 2026 рік: основні показники
200
22:03
У Кремлі заявили, що війна з НАТО "де-факто йде"
281
21:58
С Пугачовій вимагають півтора мільярда рублів за інтерв'ю
468
21:33
Якщо США знімуть санкції, то Білорусь знову зможе ремонтувати літаки, - експерт
259
21:14
Захиститись від агресії РФ: The Economist оцінив шанси Європи закрити своє небо
222
20:56
Угода про надра: американські інвестори прилетіли подивитися на українські родовища
395
20:41
Навчання "Захід-2025": у Путіна є три сценарії, куди далі відправити війська, - Bild
605
20:18
Звільнений Лукашенком опозиціонер Статкевич знову опинився у в'язниці – ЗМІ
518
20:01
Як ЗСУ вдається визволяти села, попри перевагу ворога: Тимочко назвав два фактори
325
19:53
Гороскоп на тиждень з 15 по 21 вересня: чого очікувати кожному знаку зодіаку
760
19:34
Світовий ринок смартфонів: рейтинг продажів показав цікаві зміни
406
19:15
Медведєв пригрозив НАТО війною, Єрмак відреагував
917
18:56
Працівниця банку "обнулила" рахунки 85-річної одеситки: 400 тис. грн загадково зникли
450
18:37
Скільки коштує зарядити електромобіль в Україні: які тарифи найвигідніші
468
18:18
У мережі підрахували скільки часу потрібно працювати, щоб купити новий iPhone
415
17:59
Витрати України на оборону: скільки грошей потрібно на 2026 рік
309
17:40
Для цих чотирьох знаків зодіаку "чорна смуга" залишиться позаду
1.5т
17:21
Трамп вперше назвав РФ агресором у війні проти України
392
17:02
У Раді розповіли, який зараз реальний прожитковий мінімум
984
16:43
Росія насправді не перемагає на полі бою в Україні, - Келлог
383
16:24
Настав час непопулярних рішень: Гетьманцев не схвалив пропозиції щодо роздачі грошей у програмі Свириденко
1.2т
16:05
Трамп пригрозив оголосити надзвичайний стан у Вашингтоні
476
15:46
У німців запитали, чи вірять вони у напад Росії на країну НАТО
487
15:27
Гороскоп на 15-16 вересня для всіх знаків зодіаку: кому доведеться вирішувати проблеми у ці дні
785
15:08
Чи буде глобальне підвищення податків: що готують у Раді
389
14:49
Магнітні бурі: чого очікувати від сонячної активності 15-17 вересня
468
14:30
Податок на оренду житла: скільки грошей хоче забрати собі держава
731
14:11
Екстремальна спека цього літа в Європі: збитки досягли десятків мільярдів євро
332
13:52
Курс валют в обмінних пунктах: долар та євро подешевшали
336
13:33
"Іскандери" біля польського кордону: навіщо Путін лякає НАТО
388
13:14
Гороскоп таро на тиждень з 15 по 21 вересня: чого очікувати кожному знаку зодіаку
1.1т
12:55
Путін мріє зруйнувати НАТО: експерт пояснила, що стоїть за діями Кремля
419
12:36
Люди, що народилися в ці дати, несуть у собі дані з минулих життів
2.1т
12:17
Дієтологи назвали найважливіший овоч для довголіття
442
11:58
Українців попередили про різкий стрибок цін: що знову подорожчає
1.3т
Більше новин

Продовжуючи переглядати vesti-ua.net Ви підтверджуєте, що ознайомилися з Політикою конфіденційності і погоджуєтеся з використанням файлів cookie