ШІ може призвести до загибелі людства: Ілон Маск визнав загрозу

Незважаючи на ризик, мільярдер закликав все одно розвивати такі технології
2-04-2024, 13:37 / Автор: Ілько Северин
/
Читать на русском
ШІ може призвести до загибелі людства: Ілон Маск визнав загрозу
5.1т

У межах семінару "Великі дебати про штучний інтелект" на заході Abundance Summit, відомий мільярдер Ілон Маск заявив, що штучний інтелект (ШІ) може знищити людство. Однак, попри навіть на такий ризик, мільярдер закликав однаково розвивати такі технології, передає Business insider.

На думку Маск сказав, ШІ може призвести до загибелі людства. В оцінках ризиків він погодився з Джеффрі Гінтоном — вченим і екскерівником відділу досліджень ШІ в Google, але вважає, що ймовірний успіх переважує наслідки негативного сценарію. Цікаво, що Ілон Маск не згадав, як саме розраховували ризики.

"Я думаю, є певний шанс, що це покладе кінець людству. Я, напевно, погоджуся з Джеффом Гінтоном, що це близько 10% або 20% або щось на зразок того", — сказав Ілон.

Роман Ямпольський, дослідник безпеки ШІ та директор лабораторії кібербезпеки в Університеті Луїсвілля, розповів Business Insider, що Маск має рацію, кажучи, що ШІ може становити екзистенціальну загрозу для людства, але Маск надто консервативний, згідно з оцінкою Романа.

"На мою думку, показник p(doom) набагато вищий", — сказав Ямпольський.

P(doom) — це ймовірність дуже поганих результатів (наприклад, вимирання людства) унаслідок застосування ШІ, — ред. Під p(doom) також мають на увазі ситуацію, у якій ШІ візьме контроль над людством або спричинить подію, що покладе край людству, наприклад, створить нову біологічну зброю або спричинить колапс унаслідок масштабної кібератаки, або ядерної війни.

Газета The New York Times назвала (p)doom новою жахливою статистикою, що охопила Кремнієву долину, водночас різні керівники технологічних компаній, за словами видання, вважають, що ймовірність апокаліпсису, спричиненого ШІ, становить від 5% до 50%. Ямпольський оцінює ризик у 99,999999%, оскільки буде неможливо контролювати просунутий ШІ. На його думку, краще таку технологію і не створювати взагалі.

"Не розумію, чому Маск вважає, що розвивати цю технологію — хороша ідея", — прокоментував Ямпольський. — "Якщо він занепокоєний тим, що конкуренти доберуться до неї першими, це не має значення, оскільки неконтрольований надінтелект однаково поганий, незалежно від того, хто його створив".

У листопаді минулого року Ілон Маск сказав, що ймовірність того, що технологія зрештою зіпсується, не дорівнює нулю, однак він був оптимістичнішим у своїх оцінках, ніж сьогодні. Хоча він і був прихильником регулювання ШІ, минулого року Ілон заснував компанію під назвою xAI, метою якої є подальше розширення можливостей цієї технології. xAI є конкурентом OpenAI.

На саміті Ілон Маск заявив, що до 2030 року цифровий інтелект перевищить весь людський інтелект разом узятий, стверджуючи, що потенційні позитивні сторони переважують негативні, Маск визнав ризик для світу, якщо розвиток ШІ продовжиться нинішньою траєкторією в деяких сферах.

"Одна з речей, які, на мою думку, неймовірно важливі для безпеки ШІ, — це наявність ШІ, який максимально допитливий і шукає істини", — підкреслив бізнесмен.

На його думку, найкращий спосіб досягти безпеки ШІ — розвивати ШІ таким чином, щоб він був правдивим.

"Не змушуйте його брехати, навіть якщо правда неприємна", — сказав Маск.

Дослідники виявили, що, щойно ШІ навчиться брехати людям, оманливу поведінку неможливо буде змінити за допомогою наявних заходів безпеки. Про це, зокрема, писало медіа The Independent. У матеріалі йшлося про те, що якщо ШІ-модель демонструватиме оманливу поведінку, то нинішні методи навчання техніці безпеки не гарантують безпеку, але навіть можуть створити хибне враження про безпеку. Учені також упевнені, що ШІ може навчитися обманювати, як то кажуть, просто так.

Джеффрі Гінтон вважає, що якщо нейромережа стане набагато розумнішою за людей, вона зможе маніпулювати ними, тому що вона навчиться цього у людей. Про це він заявив у коментарі CNN.


Чому ви можете довіряти vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Останні новини
20:18
"Комік і диктатор без виборів": Трамп накинувся на Зеленського
233
20:01
Солдатам КНДР кажуть, що вони воюють із солдатами Південної Кореї
270
19:54
Гороскоп на 20 лютого: прогноз для кожного знака зодіаку
381
19:35
Відмова від долара на користь євро: експерти пояснили, що буде з грошима українців
368
19:16
Зеленський назвав країни, які виступають проти вступу України до НАТО
487
18:57
Поточний тиждень обіцяє стати особливо вдалим для цих знаків зодіаку
545
18:38
Участь у виборах: Залужний поділився своїми планами
350
18:19
В Україні все ще буде холодно, вночі вдарить 20-градусний мороз, - синоптик
263
18:00
Путін і Трамп можуть зустрітися до кінця лютого, - Пєсков
300
17:41
Атака на ЧАЕС: яка зараз ситуація із радіаційним фоном
316
17:22
Нинішній тиждень обіцяє стати періодом фінансових досягнень для цих знаків зодіаку
656
17:03
У Києві у березні буде багато дощів: прогноз на місяць
264
16:44
Війна в Україні та переговори з РФ: головні заяви Трампа на прес-конференції
420
16:25
Курс долара в обмінних пунктах: скільки коштує валюта
330
16:06
Україна не має таких запасів корисних копалин, на які сподівається Трамп, - Bloomberg
436
15:47
Через високий рівень захворюваності на грип та ГРВІ в Україні вводять "локальні карантини"
319
15:28
Аналітик підрахував, скільки насправді США надали Україні грошей
509
15:09
Європейські гарантії безпеки: у Британії сказали, скільки миротворців буде достатньо для України
434
14:50
Гороскоп на 19 лютого за картами таро: до чого варто бути готовому цього дня
487
14:31
РФ та США намагаються прибрати Зеленського зі сцени, - The Telegraph
572
14:12
Можлива присутність миротворців в Україні: експерт пояснив, чи варто на них сподіватись
312
13:53
У кількох бригадах на Курахівському напрямі змінили комбригів
371
13:34
Рейтинг схвалення президента України становить 4 відсотки, - Трамп
374
13:15
Спецпредставник США Кіт Келлогг прибув до Києва та зробив перші заяви
1.6т
12:56
Українці втратять свій захист одразу після завершення війни, - голова МВС Чехії
541
12:37
Синоптики дали прогноз на весну: якою буде погода
431
12:18
Якому знаку зодіаку пощастить 19 лютого: прогноз астрологів
623
11:59
Скасування нагородження золотою та срібною медаллю у школі: що буде натомість
414
11:40
Путін зараз не зацікавлений у реальній мирній угоді, - NBC News
437
11:21
IKEA відновить роботу в Україні у 2025 році
332
11:02
Адміністрація Трампа призупинила прийом заяв на імміграцію, - CBS
316
10:43
ПФУ затвердив показник середньої заробітної плати за 2024 рік
631
10:24
Франція не відправлятиме сухопутні війська в Україну, - Макрон
379
10:05
В Україну зайде атмосферний фронт: синоптики дали прогноз на сьогодні
421
09:46
Трамп прокоментував зустріч США та РФ у Саудівській Аравії
600
09:27
Гороскоп на 19 лютого: прогноз для всіх знаків зодіаку
733
09:08
Удар безпілотниками по Одесі: кількість поранених зросла
507
08:58
Макрон скликає другий саміт з України та безпеки Європи
430
Більше новин

Продовжуючи переглядати Вісті-UA.net Ви підтверджуєте, що ознайомилися з Політикою конфіденційності і погоджуєтеся з використанням файлів cookie