Telegram, priljubljena platforma za sporočanje, je v noči na ponedeljek nenadoma izginil iz Applove trgovine App Store. Dogodek je sprožil takojšnje odzive ter odprl ključna vprašanja o nadzoru in moderiranju digitalnih storitev. Kakor je pojasnil ustanovitelj in izvršni direktor Pavel Durov, zaplet ni bil posledica notranjih kršitev smernic podjetja, temveč dobro premišljenega napada organiziranih izsiljevalcev. Napadalci so izkoristili javne skupine v aplikaciji za podtikanje pedofilskega gradiva ter s tem Apple prisilili v takojšnje in drastično ukrepanje.

Primer nazorno prikazuje ranljivost nadzornih sistemov pred naprednimi zunanjimi manipulacijami ter razkriva sistemsko tveganje za vse aplikacije, ki temeljijo na prostejši izmenjavi datotek in sporočil. Taktika napadalcev temelji na izjemno napredni tehniki izogibanja varnostnim filtrom. Durov je razkril, da izsiljevalci uporabljajo popolnoma avtomatizirane račune, s katerimi se pritihotapijo v povsem legitimne spletne skupnosti. Namesto objavljanja novih in zlahka opaznih sporočil raje spremenijo stara sporočila v že aktivnih klepetih ter vanje vrinejo nezakonite vsebine, predelane s pomočjo umetne inteligence.

Takšen pristop onemogoča tako članom skupine kot tudi moderatorjem, da bi kršitev opazili in jo pravočasno prijavili. Ko kriminalci enkrat podtaknejo sporno gradivo, skupine sami prijavijo Applu, lastnikom skupnosti pa grozijo z zaprtjem kanalov, če ne plačaju odkupnine.

Očitki Applu in tveganja za vse aplikacije

Odziv kalifornijskega giganta je bil bliskovit in nepopustljiv. Začasna odstranitev Telegrama storitve, ki jo po vsem svetu redno uporablja več kot milijarda ljudi – se je zgodila brez kakršnega koli predhodnega opozorila ali neposrednega stika z vodstvom platforme. Ustanovitelj je v objavi na omrežju X poudaril, da so izsiljevalci našli proceduralno vrzel, ki je Apple napeljala k pretiranemu in nesrazmernemu odzivu.

Prvi mož Telegrama opozarja, da takšno ravnanje ustvarja nevaren precedent za vso mobilno programsko opremo, ki gosti uporabniške vsebine. Če se lahko takšno nenadno blokado brez opozorila izvede nad storitvijo takšnih razsežnosti, je možnosti izsiljevanja izpostavljena prav vsaka aplikacija. Apple glede svoje odločitve javnosti in medijem za zdaj še ni podal uradne izjave.

Obdobje močnih pravnih pritiskov

Najnovejši spor glede pravilnika trgovine App Store prihaja v izjemno zahtevnem obdobju za vodstvo podjetja. V letu 2024 se je Pavel Durov v Franciji soočil z odmevnim pridržanjem zaradi obtožb o omogočanju nezakonitih transakcij prek svoje šifrirane platforme. Vzporedno so ruske oblasti zanj izdale nalog za prijetje s trditvijo, da aplikacija omogoča organizacijo dejavnosti, povezanih s terorizmom. Nova napetost zaradi nezakonitega gradiva, ki ga podtikajo izsiljevalci, tako prinaša dodatno breme za operativno vodenje in svetovni ugled storitve.

V nadaljevanju objavljamo prevedeno izvirno sporočilo Pavla Durova:

“Sinoči je Apple za kratek čas odstranil Telegram iz trgovine App Store, ker je en uporabnik v javni klepet podtaknil nezakonito pornografsko gradivo.

Telegram smo vrnili na platformo v le nekaj urah. Kljub temu želim pojasniti, kaj se je v resnici zgodilo, ter s tem opozoriti druge razvijalce aplikacij in pomagati zaščititi spletne skupnosti pred podobnimi napadi.

Ker Telegram z uporabo najrazličnejših orodij za moderiranje zelo hitro odstranjuje nezakonite vsebine iz javnih skupin, so morali napadalci uporabiti tehnično zvijačo. Vsebine, spremenjene s pomočjo umetne inteligence, so vrinili tako, da so uredili staro sporočilo v aktivnem skupinskem klepetu. Tako je bila vsebina učinkovito skrita pred očmi članov skupine, kar jim je preprečilo, da bi jo opazili ali prijavili.

Napadalec je bil izsiljevalec, specializiran za doseganje odstranitve vsebin – torej oseba, ki od lastnikov skupin zahteva odkupnino v zameno za prenehanje napadov na njihove skupnosti. Ti izsiljevalci uporabljajo avtomatizirane račune za podtikanje nezakonitih vsebin v javne skupine, nato pa te skupine prijavijo neposredno Applu, da bi povzročili izbris legitimnih skupnosti, katerih lastniki niso želeli plačati odkupnine.

Z praktičnega vidika nezakonite pornografske vsebine v javnih skupinah na Telegramu ne predstavljajo sistemske težave. Naše moderiranje je učinkovito. To potrjuje že dejstvo, da morajo napadalci posegati po za nazaj datiranih, dejansko nevidnih vsebinah in drugih tehničnih ukrepih.

⚠️ Iz te izkušnje pa se lahko razvijalci aplikacij in spletne skupnosti naučijo dveh pomembnih lekcij:

— Izsiljevalci so našli način za manipulacijo z Applom, ki ga napelje do pretiranega odziva. Apple je Telegram odstranil iz trgovine App Store, še preden nas je sploh kontaktiral. To ustvarja potencialno sistemsko tveganje za vsako mobilno aplikacijo, ki gosti uporabniške vsebine. Če lahko brez opozorila odstranijo aplikacijo, ki jo uporablja več kot milijarda ljudi, se lahko enako zgodi kateri koli aplikaciji.

— Taktike izsiljevalcev, usmerjene v izbris vsebin, se hitro razvijajo in ogrožajo skupnosti na vseh družbenih platformah. Telegram ima bogate izkušnje s prepoznavanjem zvijač organiziranih skupin, ki izvajajo usklajene prijave, ter z zaščito legitimnih skupnosti (tudi ko to pomeni tveganje, da bo naša aplikacija začasno odstranjena iz trgovine App Store). Druge platforme na to morda niso tako dobro pripravljene.”