Az Egyesült Királyság infokommunikációs hatósága, az Ofcom megbízta a Pattrn Analytics & Intelligence-t (Pattrn.AI), hogy az Oxfordi Egyetemmel együttműködve vizsgálja meg az online szolgáltatók ajánlórendszereinek működését, és dolgozzon ki lehetséges értékelési módszereket.
Ajánlórendszerek különböző formáival ma már mindenütt találkozunk: globális és hazai webáruházak, zenei és filmes streamingszolgáltatók, szállásfoglaló alkalmazások, a legkülönbözőbb közösségimédia-felületek egytől egyig alkalmaznak valamilyen tartalomajánló algoritmust. Ezek az algoritmusok igyekeznek a korábban valamilyen formában gyűjtött és feldolgozott információk alapján a felhasználóknak minél érdekesebb, igényeiket a lehető legjobban kiszolgáló további tartalmakat, többek közt termékeket, szolgáltatásokat ajánlani. Az interneten elérhető óriási mennyiségű tartalom közt rendkívül nehéz lenne eligazodni, tehát az ajánlórendszerek működése egyáltalán nem elítélendő vagy szükségszerűen kártékony, de a tapasztalatok alapján lehet kártékony célra is használni, a felhasználókat manipulálni. Természetesen az ajánlórendszereknél is egyre gyakrabban használnak mesterséges intelligenciát (MI) az ajánlások pontosítására, mivel olyan személyiségjegyeket, tulajdonságokat képes összekapcsolni, olyan mintázatokat is felismer, amelyeket humán elemzők nem.
Az ajánlórendszerek tervezése rendkívül fontos a szolgáltatóknak, mivel bevételeik – előfizetések, partenrségek, hirdetések – sikeres függ tőle. A rendszer működésének megértéséhez jól használható példát kínál a Netflix, saját rendszere bemutatásával, de az Amazon is hasonló rendszert működtet. Annak érdekében, hogy meg tudják becsülni annak a valószínűségét, hogy melyik műsorukat választja a néző, több tényezőt vizsgálnak:
- korábbi interakciók a Netflixszel (pl.: megtekintési előzmények, elküldött értékelések),
- más, hasonló ízlésű és preferenciákkal rendelkező előfizetőkkel való összevetés,
- információk a műsorokról, például a műfaj, a kategória, a színészek, a megjelenés éve stb.
- a vizsgált napszak,
- letöltéshez használt eszközök, és
- a Netflixen töltött idő.
A Netflix az adatokat folyamatosan gyűjti, tárolja és dolgozza fel az algoritmusa révén. A Netflix ajánlórendszerében a döntéshozatalnak nem részei a felhasználók demográfiai adatai, mint az életkor vagy a felhasználó neme, de más, például pénzügyi ajánlórendszerekben ezeknek kiemelt a szerepe, ahogy az ügyfelek befektetési és kockázatvállalási profiljának, iskolázottságának, lakóhelyének is.
Az OFCOM most közreadott jelentése másodelemzések, szakértői interjú és workshopok alapján vizsgálta az online szolgáltatások – mint az említett Netflix is – algoritmusainak működését azzal a céllal, hogy segítse a felhasználók biztonságának erősítését az ajánlórendszerek későbbi fejlesztése során. Az ajánlórendszerek értékelését három típusba – megfigyelési, tapasztalati és önértékelési – sorolja a jelentés. Többek közt a megnézett tartalmak fajtáit értékelték mérőszámokkal, mint pl. „erőszakos megtekintések aránya”, a rendszerek által felhasznált tényezők váltogatásával, illetve a felhasználók önértékelése alapján.
A Pattrn.AI és az Oxford University jelentésének főbb megállapításai:
- nincs két egyforma ajánlórendszer, emiatt nem is lehet olyan kijelentést tenni, hogy az egyik vagy másik káros az online felhasználók számára,
- több értelme van a tervezési választásoknak és azoknak a felhasználók biztonságára gyakorolt hatásainak értékelésével foglalkozni, mivel ezeket az online szolgáltatók döntései befolyásolják, ráadásul a nagyszámú vizsgált tényező miatt nem lehet egy-egy konkrétumra rámutatni, hogy az egyik káros, a másik nem,
- a szolgáltatók tervezési döntései képesek érdemben befolyásolni a felhasználók választásait, amelyek végső soron kihathatnak akár étkezési szokásaikra is, azonban nem kizárólag ezek idézik elő a felhasználók veszélyeztetettségét, hanem az egyes felhasználók beállítottsága is közrejátszik abban,
- mindenképpen van értelme a rendszerek külső vizsgálatának, mert ezek a vizsgálatok még a korlátozott hozzáférés ellenére is visszahatnak a felhasználók biztonságára és a szolgáltatók döntéseire,
- ha egy ajánlórendszer túl egyszerű, jobban ki van téve külső manipulációnak,
- mindezek miatt az online szolgáltatók tervezői döntéseinél folyamatosan tekintettel kell lenniük a felhasználói biztonsággal kapcsolatos visszajelzésekre és a veszélyek csökkentésére, míg a felügyeleteknek a folyamatos fejlődés, különösen a mesterséges intelligencia alkalmazásával járó nagymértékű változások miatt, folyamatosan vizsgálniuk kell az ajánlórendszerek hatásait.
