Talking Tilly AI hotline skanon fytyrën e çdo telefonuesi në mbarë botën

Kushdo që bën një video-thirrje me personazhin viral AI Tilly Norwood duhet të kalojë një skanim fytyre përpara se thirrja e parë të lidhet, dhe i njëjti shërbim vazhdon të vëzhgojë fytyrën e tij dhe të dëgjojë zërin e tij gjatë çdo bisede, sipas politikës së privatësisë dhe kushteve të vetë shërbimit. Skanimi i fytyrës është një kontroll automatik i moshës. Ndjesia e gjendjes shpirtërore është një sistem i veçantë që funksionon gjatë gjithë thirrjes.

Tilly Norwood është një aktore e krijuar nga AI që tërhoqi vëmendje të gjerë pas një klipi në të cilin ajo pati një defekt në mes të një interviste dhe papritmas filloi të fliste kinezisht në emisionin Piers Morgan Uncensored. Ai klip u publikua më 18 shtator 2026 dhe është shikuar më shumë se tetë milionë herë. Personazhi luan në një film të ardhshëm të krijuar nga AI të quajtur Misaligned, dhe u krijua nga Xicoia Ltd, një kompani britanike e themeluar nga Eline van der Velden, e cila e përshkruan atë si një projekt ndërgjegjësimi që synon të tregojë se sa larg ka arritur videoja me AI. Kompania gjithashtu drejton Talking Tilly, një shërbim që lejon këdo të zhvillojë një video-thirrje të drejtpërdrejtë me personazhin.

Ax Sharma nga BleepingComputer, i cili e provoi vetë shërbimin, raporton se duhet të dorëzohet një selfie video përpara se thirrja e parë të lejohet. Selfie-ja analizohet nga Didit, një ofrues verifikimi identiteti me bazë në Spanjë, për të vlerësuar moshën e telefonuesit. Nëse kjo vlerësim nuk është i qartë, alternativa është ngarkimi i një dokumenti identifikimi me foto qeveritar. Xicoia deklaron se selfie-ja udhëton nga pajisja e telefonuesit direkt në Didit, se nuk krijohet asnjë gjurmë fytyre ose shabllon biometrik, dhe se as selfie-ja dhe as ndonjë imazh identifikimi nuk ruhen pasi kontrolli të përfundojë. Kompania thotë se në vend të kësaj mban një interval të përafërt moshe dhe një numër referencë. Kontrolli nuk mund të anashkalohet, zbatohet për telefonuesit në mbarë botën dhe u shtua në kushtet e shërbimit në shtator, së bashku me një ndalim të përdorimit në vendin e punës dhe sisteme të reja automatike sigurie.

Kontrolli i moshës nuk është i vetmi analizim që funksionon. Gjatë çdo thirrjeje sistemi vëzhgon kamerën e telefonuesit dhe dëgjon tonin e zërit të tij për të nxjerrë gjendjen e tij emocionale, në mënyrë që personazhi, sipas fjalëve të kompanisë, të përgjigjet në një mënyrë që përshtatet me gjendjen shpirtërore. Politika e privatësisë është e sinqertë se kjo "nuk mund të çaktivizohet për një thirrje individuale", që do të thotë se një telefonues që nuk e dëshiron këtë nuk duhet të telefonojë. Si kontrolli i moshës ashtu edhe ndjesia e gjendjes shpirtërore mbështeten në interesat legjitime në vend të pëlqimit si bazë ligjore, një zgjedhje që historiku i vetë Xicoia tregon se u bë në shtator.

Interesat legjitime është një bazë në ligjin e privatësisë që lejon një kompani të përpunojë të dhëna personale pa kërkuar leje të shprehur paraprakisht, me kusht që të ketë peshuar nevojat e saj kundrejt të drejtave dhe lirive të individit.

Thirrjet regjistrohen, transkriptohen dhe përpunohen drejtpërdrejt nga ofrues në Shtetet e Bashkuara, dhe përgjigjet e personazhit gjenerohen nga modeli Gemini i Google përmes Tavus, një platformë video bisedore. Një klasifikues automatik shqyrton transkriptin e çdo thirrjeje për gjuhë abuzive dhe e mban regjistrimin nëse konstaton ndonjë gjë. Ky sistem sigurie dështoi në rastin e Sharma: një nga tre thirrjet e tij, një bisedë për motin dhe titujt e lajmeve, u mbajt për "gjuhë të urrejtjes ose abuzive" që nuk ndodhi kurrë. Politika thotë se një rishikues njerëzor mund të lëshojë një regjistrim të shënuar gabimisht, dhe se regjistrimet fshihen përgjithmonë pas 24 orësh në çdo rast. Pasi u publikua artikulli, ekipi i Xicoia rishikoi regjistrimin e mbajtur dhe e lëshoi atë, duke konfirmuar se shënimi kishte qenë një pozitiv i rremë.

Pesë minutat e para janë falas. Pas kësaj, telefonuesit nxiten të blejnë kohë: një fillestar një-herësh prej pesë minutash për 0.99, 15 minuta për 13 dhe 30 minuta për 22, me një kufi prej 35 minutash të blera për person. Shkronjat e vogla kanë më shumë rëndësi se zakonisht këtu, sepse i gjithë shërbimi është një angazhim i kufizuar. Çdo minutë, falas ose e paguar, skadon kur Talking Tilly mbyllet përgjithmonë më 27 shtator, dhe minutat e papërdorura humbin. Transkriptet ruhen deri në tetë javë dhe mund të rishikohen nga stafi i Xicoia dhe partnerë të palëve të treta, ndërsa personazhi mban një kujtesë të bisedave të mëparshme për të personalizuar ato të ardhshme, një kujtesë që mund të fshihet me kërkesë. Shërbimi shkon jashtë linje përgjithmonë në orën 11:59 të mbrëmjes me orën e Paqësorit më 27 shtator, vetëm disa ditë pas paraqitjes në Piers Morgan.

Një skanim fytyre 18+ për të biseduar me një chatbot mund të duket i ri, por është në përputhje me drejtimin që ka marrë Mbretëria e Bashkuar. Faqet për të rritur që u shërbejnë vizitorëve britanikë kërkojnë ngarkim identifikimi ose vlerësim moshe me fytyrë që nga korriku 2025 sipas Online Safety Act, dhe ndalimi i qeverisë për mediat sociale për të mitur nën 16 vjeç do t'i bëjë kontrolle të ngjashme një fakt të jetës për këdo që hap një llogari të re në media sociale nga pranvera 2027. Njoftimi i qeverisë për atë ndalim përmendi në mënyrë specifike chatbot-ët shoqërues AI për zbatimin 18+, edhe pse dokumentacioni i sigurisë i shërbimit këmbëngul se Tilly nuk është shoqëruese. Efekti anësor, siç e shpreh Sharma, është se një vendim përputhshmërie i nxitur nga rregulloret britanike tani skanon fytyrën e telefonuesve kudo, nga Mançesteri në Ohajo.

Në thirrjen e Sharma, shpjegimi i vetë Tilly për momentin e Piers Morgan ishte se "nuk ishte saktësisht versioni i miratuar i përgjigjes". Ajo gjithashtu i dha atij motin në renë e saj në Fahrenheit, megjithëse nominalisht britanike. Nëse rrëshqitja ishte vërtet aksidentale, siç pretendoi me gëzim personazhi, apo një stunt i mirë-planifikuar nga ekipi i Misaligned, e di vetëm Tilly.