Повсюдне використання алгоритмів штучного інтелекту, зокрема, щодо рекомендації контенту та продуктів користувачам на основі їхньої попередньої активності в інтернеті, призвело до появи в соціальних мережах таких нових явищ, як ехо-камери та інформаційні кокони. Алгоритми ШІ створюють для користувачів мережі такі собі пастки розуму, спонукаючи їх читати лише той контент, який резонує з їхніми поглядами на життя, політику та інше.
Про це йдеться у дослідженні групи вчених під керівництвом професора Йонга Лі з Університету Цінхуа (КНР). Їхня робота опублікована в журналі Nature Machine Intelligence.
Дослідники вивчили, як утворюються так звані інформаційні кокони, в яких користувачі стикаються лише з думками або користувачами, які повторюють їхні власні погляди. Це може становити серйозну небезпеку для розвитку критичного мислення.
Перший автор роботи Цзінхуа Пяо зазначив, що широке впровадження алгоритмів, керованих ШІ, створює нові виклики. Наприклад, зменшення впливу ідеологічно різноманітних новин, думок, політичних поглядів і друзів. Він зазначив, що така технологія ізолює людей від різноманітної інформації і зрештою "замикає їх на одній темі або точці зору".
Це, на думку дослідників, може мати далекосяжні негативні наслідки, оскільки такі кокони можуть посилювати упередження і поляризацію суспільства, перешкоджати особистісному зростанню, творчості та інноваціям, посилювати дезінформацію і перешкоджати зусиллям, спрямованим на створення більш інклюзивного світу.
"Поняття інформаційних коконів прийнято для опису широко спостережуваного явища, яке полягає в тому, що зі збільшенням взаємодії з інтелектуальними алгоритмами люди ізолюються від різноманітної інформації і, врешті-решт, потрапляють в пастку однієї теми або точки зору", – наголосив вчений.
При цьому дослідники стверджують, що не буде справедливим звинувачувати конкретно алгоритми ШІ, чи людей, оскільки такі інформаційні кокони виникають внаслідок складних взаємодій та обміну інформацією між різними суб'єктами.
Такі взаємодії в роботі вчених розділено на чотири компоненти:
- підбір на основі подібності – процес, коли ШІ рекомендую користувачу контент, продукти чи інших користувачів, виходячи із того, що вони найбільше схоже на те, з чим уже взаємодіяв користувач. Це ключова сила яка призводить до створення коконів;
- позитивний зворотний зв'язок – надання нового контенту відповідно до попередніх вподобань користувача. Цей процес зменшує інформаційну різноманітність;
- негативний зворотний зв'язок – заважає утворенню коконів і підбору одноманітної інформації;
- випадкове самодослідження – ситуація, коли користувач самостійно знаходить контент і ламане алгоритми, що призводять до утворення коконів.
Вчені вважають, що стійкі інформаційні кокони утворюються, коли виникає дисбаланс між позитивним та негативним зворотним зв'язком, а також за умови безперервного посилення підбору на основі подібності.
Аби уникнути цієї пастки розуму вчені радять не лише лайкати, але й реагувати на той контент, який вам не подобається, аби алгоритми могли скласти більш об'єктивну картинку. Також вони закликають користувачів мережі частіше вдаватися до самодослідження, оскільки перегляд нової інформації вплине на подальші рекомендації алгоритму.
Чому ви можете довіряти vesti-ua.net →