Home > Споделени ресурси > Алгоритмичен подбор и информационни трансформации в ерата на ИИ

Алгоритмичен подбор и информационни трансформации в ерата на ИИ 5/5 (1)

              Живеем в ера на експоненциална информационна трансформация, когато милиони потребители използват Google-търсене, за да получат отговор на въпроси, свързани с тяхното здраве, финанси, кариера, актуални политически, спортни и културни събития или научни новости. Доскоро моделът на това търсене се основаваше на класирани в мрежата информационни източници, между които потребителят можеше да преглежда, избира и сам да оценява тяхната надеждност и достоверност. Днес този модел се променя коренно под влияние на набиращото популярност приложение Google AI Overviews (AIOs – генерирани от изкуствен интелект обобщени прегледи на информацията). AIOs могат да синтезират и предоставят един-единствен отговор, така че потребителите виждат вместо списък с източници на информация само нейно обобщение. Начинът, по който се достига това обобщение, остава непрозрачен и скрит за тях, тъй като моделът се базира на вградени във всеки AIO цитати, които се представят на потребителя като доказателствена основа за генерираното съдържание. Цитатите са по-скоро структурни, отколкото случайни, защото целта на дизайна е да осигури проследяване на всяко твърдение до конкретен извлечен източник. Тази архитектура е от решаващо значение за оценката на качеството и достоверността на предлаганата информация в Google.

Понастоящем  внедряването на AIOs се разширява бързо и само в рамките на една година – от 2024 до 2025 г. – системата достига от първоначалното си внедряване в седем държави до 229 държави, като процентите на тяхната активация нарастват за сметка на трафика към издателите. Това сочи мащабно емпирично изследване, проведено в периода 13 март – 21 април 2026 г. от изследователски екип от специалисти по компютърни и информационни науки.[*] В хода на изследването са анализирани 55 393 актуални потребителски заявки (trending queries) в 19 тематични категории, които насочват изследователите към няколко важни извода: над 64% от търсенето под формата на въпроси активира AIOs, като честотата на тяхната поява варира значително според тематичната област. Анализът показва също, че макар AIOs да включват препратки към източници, тяхната видимост и позиция в информационния процес се променят, което повдига въпросите за прозрачността, верифицирането и надеждността на предоставеното знание.

В хода на изследването са анализирани 55 393 актуални потребителски заявки (trending queries) в 19 тематични категории, които насочват изследователите към няколко важни извода: над 64% от търсенето под формата на въпроси активира AIOs, като честотата на тяхната поява варира значително според тематичната област. Анализът показва също, че макар AIOs да включват препратки към източници, тяхната видимост и позиция в информационния процес се променят, което поставя въпроси относно прозрачността, верифицирането и оценката на надеждността на предоставеното знание. Друг интересен извод от изследването е, че цитираните от AIOs източници са като цяло с по-висока степен на достоверност от други резултати на първата страница на традиционното търсене, но почти 30% от тях изобщо не присъстват сред тези резултати. Това показва, че механизмът за избор на източници при AI-генерираните отговори се различава съществено от стандартния алгоритъм за класиране на Google Search. Допълнителният анализ на 98 020 отделни твърдения, съдържащи се в AIOs, сочи, че въпреки по-прецизният подбор на източници, 11% от отговорите  не могат да бъдат подкрепени с информация от посочените източници, като най-често срещаният проблем е пропускането или добавянето на информация, която не присъства в цитираните материали.

Като положителни последици от информационната трансформация, предизвикана от AIOs, авторите на изследването отчитат действителното инвестиране в качеството на предлаганата информация в Google. Новите модели за търсене и достигане до информация предполагат целенасочени дизайнерски решения, а не случайни резултати. Тези решения водят до по-висока точност на AIOs в категориите „Здравеопазване“, „Политика“ и „Наука“ – области, в които грешките могат да имат най-сериозни последици, тъй като при подбора на информация насочват AIOs  към по-достоверни ресурси като професионално създадено, експертно проверено и институционално подкрепено съдържание за сметка на резултатите, показвани едновременно на първа страница  и присъствието на генерираното от потребителите съдържание (UGC).

Заедно с това резултатите от изследването сочат и сериозни проблеми, свързани с прецизността на AIOs, икономическите последици от внедряването им, прозрачността и отчетността, които изискват по-ясни публични политики относно това кога и защо се активират AIOs. Макар че AIOs цитират достоверни източници, почти едно от всеки девет твърдения е неподкрепено, а логиката на подбора на източници остава непрозрачна, особено в случаите, когато потребителите задават отворени въпроси, изискващи синтезиране на информация от множество източници. Във връзка с икономическите последици за създателите на съдържание изследователите посочват, значителна част от страниците, цитирани от AIOs, съдържат рекламно финансиране,  но генерираните обобщения намаляват значително необходимостта потребителите да посещават оригиналните източници.

Като особено проблематични авторите на изследването определят въпросите за отговорността  за ефектите   от въздействието на AIOs и вариациите в неговото поведение в зависимост от потребителските профили, степента на персонализация или географския контекст. В тази връзка те обръщат внимание на привидната неутралност на дизайнерските решения и на възможните последици, които автоматизираното активиране на AIOs може да предизвика сред различни потребителски групи. Това налага необходимостта от допълнителни, нови изследване и анализ на различията между отделните общности, които биха подпомогнали не само оценката на общото социално въздействие на системата, но и установяването на причините за неравномерното разпределение на нейните ефекти сред различни групи потребители. Този анализ, заключават изследователите,  би подпомогнал идентифицирането на онези общности, които са най-силно изложени на потенциалните рискове, свързани с използването на AIOs .

КЕ

По-подробно за методологията, резултатите и изводите от изследването можете да прочетете тук:
https://arxiv.org/abs/2605.14021

 

[*] Haofei Xu, Umar Iqbal, Jacob M. Montgomery. Measuring Google AI Overviews: Activation, Source Quality, Claim Fidelity, and Publisher Impact. arXiv:2605.14021, 2026.

Остави коментар