Искусственный интеллект создал ловушку разума для людей: в чем опасность

Ученые предупредили об опасности
5-11-2023, 13:56 / Автор: Ілько Северин
/
Читати українською
Искусственный интеллект создал ловушку разума для людей: в чем опасность
4.2т

Повсеместное использование алгоритмов искусственного интеллекта, в частности относительно рекомендации контента и продуктов пользователям на основе их предварительной активности в интернете, привело к появлению в социальных сетях таких новых явлений, как эхо-камеры и информационные коконы. Алгоритмы ИИ создают для пользователей сети ловушки разума, побуждая их читать только тот контент, который резонирует с их взглядами на жизнь, политику и прочее.

Об этом говорится в исследовании группы ученых под руководством профессора Йонга Ли из Университета Цинхуа (КНР). Их работа опубликована в журнале Nature Machine Intelligence.

Исследователи изучили, как образуются так называемые информационные коконы, в которых пользователи сталкиваются только с мнениями или пользователями, повторяющими их собственные взгляды. Это может представлять серьезную опасность для развития критического мышления.

Первый автор работы Цзинхуа Пяо отметил, что широкое внедрение алгоритмов, управляемых ИИ, создает новые вызовы. Например, уменьшение влияния идеологически разнообразных новостей, мнений, политических взглядов и друзей. Он отметил, что такая технология изолирует людей от разнообразной информации и в конце концов "замыкает их на одной теме или точке зрения".

Это, по мнению исследователей, может иметь далеко идущие негативные последствия, поскольку такие коконы могут усиливать предубеждения и поляризацию общества, препятствовать личностному росту, творчеству и инновациям, усиливать дезинформацию и препятствовать усилиям, направленным на создание более инклюзивного мира.

"Понятие информационных коконов принято для описания широко наблюдаемого явления, заключающегося в том, что с увеличением взаимодействия с интеллектуальными алгоритмами люди изолируются от разнообразной информации и, в конце концов, попадают в ловушку одной темы или точки зрения", – подчеркнул ученый.

При этом исследователи утверждают, что не будет справедливо обвинять конкретно алгоритмы ИИ или людей, поскольку такие информационные коконы возникают вследствие сложных взаимодействий и обмена информацией между различными субъектами.

Такие взаимодействия в работе ученых разделены на четыре компонента:

  • подбор на основе сходства – процесс, когда ИИ рекомендую пользователю контент, продукты или других пользователей, исходя из того, что они больше всего похожи на то, с чем уже взаимодействовал пользователь. Это ключевая сила, которая приводит к созданию коконов;
  • положительная обратная связь – предоставление нового контента в соответствии с предыдущими предпочтениями пользователя. Этот процесс уменьшает информационное разнообразие;
  • отрицательная обратная связь – мешает образованию коконов и подбору однообразной информации;
  • случайное самоисследование – ситуация, когда пользователь самостоятельно находит контент и ломаные алгоритмы, приводящие к образованию коконов.

Ученые считают, что устойчивые информационные коконы образуются при возникновении дисбаланса между положительной и отрицательной обратной связью, а также при непрерывном усилении подбора на основе сходства.

Чтобы избежать этой ловушки разума, ученые советуют не только лайкать, но и реагировать на тот контент, который вам не нравится, чтобы алгоритмы могли составить более объективную картинку. Также они призывают пользователей сети чаще прибегать к самоисследованию, поскольку просмотр новой информации повлияет на дальнейшие рекомендации алгоритма.


Почему вы можете доверять vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Последние новости
14:31
Доллар и евро подешевели: какой сегодня курс валют в обменниках
146
14:12
Синоптик рассказала, когда в Украину вернется жара
195
13:53
Эти три знака зодиака получат особую поддержку небес в самое ближайшее время
381
13:45
Рада поддержала президентский проект закона о НАБУ и САП
193
13:34
В Китае ищут способы уничтожить сеть спутников Starlink
271
13:20
Деньги закончились: с 15 августа в Украине возникнет задолженность перед военными, - Шмыгаль
502
13:15
После атаки РФ на Киев несколько домов остались без света
180
12:56
Учения "Запад-2025": военный эксперт спрогнозировал нападение РФ на НАТО
267
12:37
25-летним военнообязанным автоматически будут присваивать звание солдата - Минобороны
318
12:18
Трамп устроил Индии холодный душ, - NYT
501
11:59
Удар по Киеву привел к обрушению подъезда жилого дома
298
11:40
В Николаеве погиб мужчина, который пытался убежать от ТЦК
403
11:21
Трамп подписал указ о введении дополнительной пошлины для Бразилии
327
11:02
Расклад сил на фронте стремительно ухудшается: CNN предупредил об угрозе падения нескольких городов
1.2т
10:43
Какому знаку зодиака повезет 31 июля: прогноз астрологов
545
10:24
В Черкассах мужчина выпрыгнул из окна медицинского учреждения во время прохождения ВВК
552
10:05
Местами кратковременные дожди, но тепло: прогноз погоды на сегодня
243
09:46
"Следи за базаром": Трамп резко ответил Медведеву на угрозы
1.3т
09:27
Гороскоп на 31 июля: прогноз для всех знаков зодиака
663
09:08
Ракетный удар по Киеву: разрушен подъезд, под завалами люди
472
08:57
Ранняя или поздняя осень: синоптик рассказала, чего ожидать в этом году
640
08:34
Орбан сделал неожиданное заявление о Зеленском
1.3т
08:13
Украина очень близка к созданию баллистических ракет, - Шмыгаль
648
07:58
Сырский поручил перевести обучение ВСУ под землю
433
07:36
Страны Европы хотят взять кредиты у Евросоюза, чтобы купить оружие Украине, - Politico
396
07:14
Могут ли женщины-медики выезжать за границу 2025 года: ответ юриста
460
22:57
Зеленский заявил о тайных операциях ГУР
711
22:43
По всей Украине установится комфортная летняя температура
516
22:19
Сенатор Грем оценил "санкционный иммунитет" Кремля
730
22:03
Некоторых женщин автоматически будут брать на воинский учет: кто в списке
708
21:58
В Женеве представители разных стран устроили демарш для главы Совета федерации РФ
2.7т
21:33
Готовил удары по аэродромам с F-16 и Mirage 2000: в ВВС нашли "крота"
782
21:14
Трамп с 1 августа вводит 25%-ые пошлины для Индии
472
20:56
В ЕС запускают биометрическую систему въезда: что изменится для туристов
639
20:41
Война в Украине может быть приостановлена уже скоро: Туск заявляет, что "есть много признаков"
873
20:18
В Украине исчезает известная рыба: какой вид под угрозой
2.9т
20:01
Нацбанк прощается с 10 копейками: почему цены из-за мелочи на продукты подскочат
657
19:53
Гороскоп на 31 июля: прогноз для каждого знака зодиака
1.4т
Больше новостей

Продолжая просматривать vesti-ua.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie