ШІ може призвести до загибелі людства: Ілон Маск визнав загрозу

Незважаючи на ризик, мільярдер закликав все одно розвивати такі технології
2-04-2024, 13:37 / Автор: Ілько Северин
/
Читать на русском
ШІ може призвести до загибелі людства: Ілон Маск визнав загрозу
5.4т

У межах семінару "Великі дебати про штучний інтелект" на заході Abundance Summit, відомий мільярдер Ілон Маск заявив, що штучний інтелект (ШІ) може знищити людство. Однак, попри навіть на такий ризик, мільярдер закликав однаково розвивати такі технології, передає Business insider.

На думку Маск сказав, ШІ може призвести до загибелі людства. В оцінках ризиків він погодився з Джеффрі Гінтоном — вченим і екскерівником відділу досліджень ШІ в Google, але вважає, що ймовірний успіх переважує наслідки негативного сценарію. Цікаво, що Ілон Маск не згадав, як саме розраховували ризики.

"Я думаю, є певний шанс, що це покладе кінець людству. Я, напевно, погоджуся з Джеффом Гінтоном, що це близько 10% або 20% або щось на зразок того", — сказав Ілон.

Роман Ямпольський, дослідник безпеки ШІ та директор лабораторії кібербезпеки в Університеті Луїсвілля, розповів Business Insider, що Маск має рацію, кажучи, що ШІ може становити екзистенціальну загрозу для людства, але Маск надто консервативний, згідно з оцінкою Романа.

"На мою думку, показник p(doom) набагато вищий", — сказав Ямпольський.

P(doom) — це ймовірність дуже поганих результатів (наприклад, вимирання людства) унаслідок застосування ШІ, — ред. Під p(doom) також мають на увазі ситуацію, у якій ШІ візьме контроль над людством або спричинить подію, що покладе край людству, наприклад, створить нову біологічну зброю або спричинить колапс унаслідок масштабної кібератаки, або ядерної війни.

Газета The New York Times назвала (p)doom новою жахливою статистикою, що охопила Кремнієву долину, водночас різні керівники технологічних компаній, за словами видання, вважають, що ймовірність апокаліпсису, спричиненого ШІ, становить від 5% до 50%. Ямпольський оцінює ризик у 99,999999%, оскільки буде неможливо контролювати просунутий ШІ. На його думку, краще таку технологію і не створювати взагалі.

"Не розумію, чому Маск вважає, що розвивати цю технологію — хороша ідея", — прокоментував Ямпольський. — "Якщо він занепокоєний тим, що конкуренти доберуться до неї першими, це не має значення, оскільки неконтрольований надінтелект однаково поганий, незалежно від того, хто його створив".

У листопаді минулого року Ілон Маск сказав, що ймовірність того, що технологія зрештою зіпсується, не дорівнює нулю, однак він був оптимістичнішим у своїх оцінках, ніж сьогодні. Хоча він і був прихильником регулювання ШІ, минулого року Ілон заснував компанію під назвою xAI, метою якої є подальше розширення можливостей цієї технології. xAI є конкурентом OpenAI.

На саміті Ілон Маск заявив, що до 2030 року цифровий інтелект перевищить весь людський інтелект разом узятий, стверджуючи, що потенційні позитивні сторони переважують негативні, Маск визнав ризик для світу, якщо розвиток ШІ продовжиться нинішньою траєкторією в деяких сферах.

"Одна з речей, які, на мою думку, неймовірно важливі для безпеки ШІ, — це наявність ШІ, який максимально допитливий і шукає істини", — підкреслив бізнесмен.

На його думку, найкращий спосіб досягти безпеки ШІ — розвивати ШІ таким чином, щоб він був правдивим.

"Не змушуйте його брехати, навіть якщо правда неприємна", — сказав Маск.

Дослідники виявили, що, щойно ШІ навчиться брехати людям, оманливу поведінку неможливо буде змінити за допомогою наявних заходів безпеки. Про це, зокрема, писало медіа The Independent. У матеріалі йшлося про те, що якщо ШІ-модель демонструватиме оманливу поведінку, то нинішні методи навчання техніці безпеки не гарантують безпеку, але навіть можуть створити хибне враження про безпеку. Учені також упевнені, що ШІ може навчитися обманювати, як то кажуть, просто так.

Джеффрі Гінтон вважає, що якщо нейромережа стане набагато розумнішою за людей, вона зможе маніпулювати ними, тому що вона навчиться цього у людей. Про це він заявив у коментарі CNN.


Чому ви можете довіряти vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Останні новини
22:57
Китайський гороскоп на завтра 13 вересня: що день готує "тварини"
339
22:43
"Євробачення" під загрозою зриву: дедалі більше країн погрожують бойкотом через Ізраїль
332
22:19
Найкраща ППО США - генерал Келлог, - Зеленський пожартував і запропонував американцеві громадянство
480
22:03
Стрілянина на СТО на Львівщині: у поліції повідомили, хто кого вбив
678
21:58
"Терпіння вичерпується", - Трамп зробив заяву про Путіна та Зеленського
714
21:33
Поляки починають вчитися збивати дрони: до Міноборони відповіли, де проходитимуть тренування
380
21:14
Окупанти перекинули морську піхоту у район Добропілля, — Сирський
420
20:56
Тариф на світло: у Міненерго сказали, чого чекати побутовим споживачам
612
20:41
Дрони СБУ підірвали найбільший нафтовий хаб РФ на Балтиці: ЗМІ дізналися деталі
584
20:18
Убивцю Чарлі Кірка затримали, йому загрожує страта, - Трамп
631
20:01
Орбан "пояснив", чому російські дрони атакували Польщу
812
19:54
Гороскоп на 13 вересня: прогноз для кожного знака зодіаку
936
19:35
В Україні переважатиме суха та сонячна погода: прогноз на найближчі дні
332
19:16
Країни ЄС погодили продовження ще на півроку санкцій проти РФ
360
18:57
Ці знаки зодіаку незабаром кардинально змінять своє життя: у кого попереду серйозні зміни
1.6т
18:38
Сікорський жорстко розкритикував рішення Трампа щодо Росії
509
18:19
Інцидент із українським винищувачем на Волині: ГБР зареєструвало кримінальне провадження
625
18:00
У вихідні погода стабілізується: що покажуть стовпчики термометрів
368
17:41
Ryanair пригрозив скасувати ще 1 мільйон місць на рейсах до Іспанії
456
17:22
В Україні більше не буде дешевих яблук: якими будуть ціни
895
17:03
Росія провокує радіаційну катастрофу, атакуючи ядерні об'єкти в Україні, - NYT
383
16:44
Трамп нарешті вирішив дотиснути Путіна, - Politico
826
16:25
Ці знаки зодіаку ось-ось відчують потужну підтримку з космосу
1.3т
16:06
З Ужгорода євроколією вирушили перші поїзди
451
15:47
Ціна оренди: де найдорожче в Україні зняти квартиру
512
15:28
В Україні різко скоротилася кількість платників податків
473
15:09
Великобританія оголосила про новий пакет санкцій проти РФ
366
14:50
Обмінники виставили нові курси валют: скільки коштують долар та євро
423
14:31
У Словаччині запропонували запровадити обов'язкову службу в армії
357
14:12
Гороскоп на 12 вересня за картами таро: на кого чекають нові можливості
604
13:53
У ЄС оновили дані про українців із тимчасовим захистом
569
13:34
Туск спростував повідомлення про те, що за вторгненням російських дронів у Польщу нібито стоїть Україна
627
13:15
Зима в Україні буде теплішою, ніж зазвичай, - метеоролог
1.1т
12:56
Українці 18-22 років масово перетинають кордон після послаблення обмежень – прикордонна служба Польщі
539
12:37
НАТО не готове до російських атак дронами, - Politico
531
12:18
Мати підозрюваного у жорсткому вбивстві вінницького вчителя розповіла, чому син пішов на злочин
6.9т
11:59
Сікорський відреагував на заяву Трампа про дрони в Польщі
462
11:40
Якому знаку зодіаку пощастить 12 вересня: прогноз астрологів
656
Більше новин

Продовжуючи переглядати vesti-ua.net Ви підтверджуєте, що ознайомилися з Політикою конфіденційності і погоджуєтеся з використанням файлів cookie