Искусственный интеллект создал ловушку разума для людей: в чем опасность

Ученые предупредили об опасности
5-11-2023, 13:56 / Автор: Ілько Северин
/
Читати українською
Искусственный интеллект создал ловушку разума для людей: в чем опасность
4.2т

Повсеместное использование алгоритмов искусственного интеллекта, в частности относительно рекомендации контента и продуктов пользователям на основе их предварительной активности в интернете, привело к появлению в социальных сетях таких новых явлений, как эхо-камеры и информационные коконы. Алгоритмы ИИ создают для пользователей сети ловушки разума, побуждая их читать только тот контент, который резонирует с их взглядами на жизнь, политику и прочее.

Об этом говорится в исследовании группы ученых под руководством профессора Йонга Ли из Университета Цинхуа (КНР). Их работа опубликована в журнале Nature Machine Intelligence.

Исследователи изучили, как образуются так называемые информационные коконы, в которых пользователи сталкиваются только с мнениями или пользователями, повторяющими их собственные взгляды. Это может представлять серьезную опасность для развития критического мышления.

Первый автор работы Цзинхуа Пяо отметил, что широкое внедрение алгоритмов, управляемых ИИ, создает новые вызовы. Например, уменьшение влияния идеологически разнообразных новостей, мнений, политических взглядов и друзей. Он отметил, что такая технология изолирует людей от разнообразной информации и в конце концов "замыкает их на одной теме или точке зрения".

Это, по мнению исследователей, может иметь далеко идущие негативные последствия, поскольку такие коконы могут усиливать предубеждения и поляризацию общества, препятствовать личностному росту, творчеству и инновациям, усиливать дезинформацию и препятствовать усилиям, направленным на создание более инклюзивного мира.

"Понятие информационных коконов принято для описания широко наблюдаемого явления, заключающегося в том, что с увеличением взаимодействия с интеллектуальными алгоритмами люди изолируются от разнообразной информации и, в конце концов, попадают в ловушку одной темы или точки зрения", – подчеркнул ученый.

При этом исследователи утверждают, что не будет справедливо обвинять конкретно алгоритмы ИИ или людей, поскольку такие информационные коконы возникают вследствие сложных взаимодействий и обмена информацией между различными субъектами.

Такие взаимодействия в работе ученых разделены на четыре компонента:

  • подбор на основе сходства – процесс, когда ИИ рекомендую пользователю контент, продукты или других пользователей, исходя из того, что они больше всего похожи на то, с чем уже взаимодействовал пользователь. Это ключевая сила, которая приводит к созданию коконов;
  • положительная обратная связь – предоставление нового контента в соответствии с предыдущими предпочтениями пользователя. Этот процесс уменьшает информационное разнообразие;
  • отрицательная обратная связь – мешает образованию коконов и подбору однообразной информации;
  • случайное самоисследование – ситуация, когда пользователь самостоятельно находит контент и ломаные алгоритмы, приводящие к образованию коконов.

Ученые считают, что устойчивые информационные коконы образуются при возникновении дисбаланса между положительной и отрицательной обратной связью, а также при непрерывном усилении подбора на основе сходства.

Чтобы избежать этой ловушки разума, ученые советуют не только лайкать, но и реагировать на тот контент, который вам не нравится, чтобы алгоритмы могли составить более объективную картинку. Также они призывают пользователей сети чаще прибегать к самоисследованию, поскольку просмотр новой информации повлияет на дальнейшие рекомендации алгоритма.


Почему вы можете доверять vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Последние новости
22:57
Фьюри назвал единственного боксера, который способен победить Усика
265
22:43
Синоптики спрогнозировали, каким будет 23 июля
177
22:19
Трамп высказался о возможности встречи с Путиным в Китае
260
22:03
Застрелилась сестра принцев Уильяма и Гарри
1.1т
21:58
Россияне пытаются прорваться в Покровск малыми группами
254
21:33
Мобильные ТЦК в Украине: нардеп объяснил, как это будет работать
484
21:14
В Москве подожгли авто руководителя завода по производству дронов, - СМИ
335
20:56
В Кремле придумали причину, почему Путин не может вести переговоры с Зеленским
1.1т
20:41
Верхушка РФ хочет уговорить Путина остановить войну
1.1т
20:18
Дюбуа опоздал на бой с Усиком: СМИ узнали причину
328
20:01
Лукашенко снова хочет докопаться до нефти
302
19:54
Гороскоп на 23 июля: прогноз для каждого знака зодиака
895
19:35
Трамп перепостил ИИ-видео о "задержании Обамы"
319
19:16
США приняли решение о выходе из ЮНЕСКО, - The New York Post
275
18:57
Новые правила сдачи на права: что изменилось в 2025 году
400
18:38
Этим знакам зодиака суждено влюбиться до конца лета: кто в списке астрологов
728
18:19
В Украине 23 июля испортится погода: каким регионам не повезет больше всего
573
18:00
Обрыв троса аттракциона над Днепром год назад: в полиции раскрыли причину трагедии
433
17:41
Зимние выплаты по 19 400 гривен: кто сможет получить помощь ООН
930
17:22
Зеленский поручил сформировать делегацию Украины на переговоры с РФ
366
17:03
Самая масштабная программа перевооружения: Буданов раскрыл планы РФ на 10 лет
972
16:44
Ученые взволнованы ускорением вращения Земли: что происходит в космосе
736
16:25
Военные подтвердили проникновение российских ДРГ в Покровск
417
16:06
Погода в Украине до конца июля: в каких регионах возможна сильная жара
361
15:47
Астролог назвала три знака зодиака, которым повезет в любви во второй половине лета
798
15:28
На грани транспортного коллапса: Украине не хватает до 40 тысяч водителей грузовиков
940
15:09
США призвали ЕС ввести рекордные пошлины против РФ
365
14:50
Мораторий на проверки бизнеса: Зеленский подписал решение СНБО
370
14:31
Курс доллара и евро: сколько стоит валюта в обменниках
432
14:12
Путин по-прежнему считает войну в Украине главным приоритетом, - The Guardian
579
13:53
Собрать ребенка в школу: в этом году родителям придется прилично раскошелиться
413
13:34
Непогода охватит 10 областей: Укргидрометцентр предупредил о надвигающейся стихии
611
13:15
Лишь пять знаков зодиака вскоре получат новый шанс: кому повезет
1.2т
12:56
Украина может стать для Трампа тем же, чем Афганистан был для Байдена, - Bloomberg
662
12:37
Покупать или продавать сейчас доллары: новые рекомендации украинцам
1.1т
12:18
Google во втором квартале 2025 года удалил почти 11 тысяч пропагандистских каналов в YouTube
345
11:59
Сезон арбузов стартовал: что будет с ценами
525
11:40
Астрологи уточнили, какому знаку зодиака повезет 22 июля
678
Больше новостей

Продолжая просматривать vesti-ua.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie