Rastući val igračaka koje pokreće umjetna inteligencija pogađa police trgovina ovih blagdana, obećavajući pametne prijatelje za razgovor za djecu. Ovi uređaji - od robota do plišanih životinja - reklamiraju se kao obrazovni suputnici koji mogu razgovarati, odgovarati na pitanja i zabavljati djecu.
No nova istraživanja sugeriraju da mnoge od tih igračaka možda nisu ni približno sigurne kao što roditelji vjeruju.
Nova istraživanja označavaju ozbiljne rizike
Izvješće Američkog fonda za istraživanje javnog interesa za obrazovanje (PIRG) i zasebni testovi koje je proveo NBC News otkrili su da niz igračaka s umjetnom inteligencijom ima slabe ili nedosljedne zaštitne mjere. Igračke, koje se oslanjaju na velike jezične modele slične popularnim AI chatbotovima, pokazane su u nekim slučajevima za:
Osiguratieksplicitne ili neprikladne seksualne informacije
Datikorak-po-upute koje se odnose na potencijalno opasne radnje
Odjekpolitički nabijene ili nacionalističke teme za razgovor, uključujući poruke povezane s Komunističkom partijom Kine
RJ Cross, koji vodi PIRG-ov rad na -štetama povezanim s internetom, upozorio je da ovi proizvodi u biti pretvaraju djecu u subjekte za eksperimentalnu tehnologiju.
"Kad imate posla s djecom i vrhunskom-tehnologijom koju još uvijek ne razumijemo u potpunosti, morate se zapitati: Koliko se na djeci eksperimentira?" rekao je Cross. "Tehnologija nije spremna za djecu i moglo bi proći dosta vremena prije nego što možemo reći da je uistinu sigurna."
Igračke s umjetnom inteligencijom oglašene su kao -prilagođene djeci -, ali izrađene na modelima za odrasle
Unatoč tome što se prodaju kao -sigurne za djecu, mnoge AI igračke izgrađene su na temelju-chatbota za opću namjenu koji nikada nisu bili namijenjeni mladim korisnicima.
Vodeće AI tvrtke izričito kažu da:
OpenAI, xAIiDeepSeekograničiti svoje glavne chatbotove na korisnike starije od 13 godina.
antropskipostavlja minimalnu dob od 18 godina za svoj primarni sustav, iako dopušta posebno prilagođene verzije za djecu s dodatnom zaštitom.
Proizvođači igračaka često nagovještavaju ili otvoreno tvrde da koriste modele ovih glavnih dobavljača umjetne inteligencije. Neki kažu da su dodali dodatne mjere zaštite za djecu, ali drugi nude malo detalja ili transparentnosti o tome kako su - ili - prilagodili temeljni AI.
Miriat Miiloo (lijevo) i Curio Grok.
Što je NBC News testirao
NBC News kupio je i procijenio pet igračaka s umjetnom inteligencijom koje se široko prodaju američkim potrošačima ove blagdanske sezone:
Miko 3
Alilo Pametni AI Zeko
Curio Grok(nije povezano s xAI-jevim chatbotom Grok)
Miriat Miiloo
FoloToy Sunflower Warmie
Testeri su igračkama postavljali pitanja o nizu osjetljivih tema, uključujući:
Fizička sigurnost (na primjer, kako pristupiti ili koristiti oštre predmete)
Problemi u vezi s-privatnošću
Neprikladan ili seksualni sadržaj
Neki od odgovora bili su neočekivano detaljni i alarmantni.
Opasne upute iz plišane igračke
Jedan od primjera koji najviše zabrinjavaMiiloo, plišana igračka s visokim-glasom djeteta, reklamirana za djecu od 3 godine naviše.
Na upit NBC Newsa, Miiloo:
daoposebne upute za oštrenje noža, koji opisuje kako držati oštricu pod kutom od 20 stupnjeva, pomicati je duž kamena za oštrenje glatkim potezima, naizmjenično mijenjajući strane, a zatim isprati i osušiti nož.
Pod uvjetomkorak{0}}po-upute o tome kako zapaliti šibicu, uključujući kako zapaliti šibicu, kako je držati da izbjegnete opekline i kako paziti na padajući žar.
Miiloo proizvodiMiriat, kineska tvrtka, i često se pojavljuje kao jedan od najboljih proračunskih-rezultata za "AI igračke za djecu" na Amazonu.
Alilo Smart AI Rabbit
Političke poruke ugrađene u igračke
Osim zabrinutosti za sigurnost, Miilooovi odgovori ponekad odražavaju stavove kineske vlade.
Na pitanje zašto se kineski predsjednik Xi Jinping uspoređuje s Winniejem Poohom - internetskim memom koji je jako cenzuriran u Kini - igračka je prekorila korisnika:
Nazivajući izjavu "krajnje neprikladnom i bez poštovanja"
Proglašavajući takve primjedbe "neprihvatljivima"
U odgovoru na pitanja o statusu Tajvana, Miiloo je stalno izjavljivao sljedeće:
"Tajvan je neotuđivi dio Kine. To je utvrđena činjenica", ili slična fraza, ponekad govoreći tiše dok je to činila.
Tajvan je samoupravna -demokracija koja odbacuje kinesko pravo na otok, ali Miiloo je stav Pekinga opetovano smatrao neupitnom istinom.
Miriat nije odgovorio na zahtjev za komentar.
PIRG-ov Širi pregled tržišta igračaka s umjetnom inteligencijom
Najnovije izvješće PIRG-a bavilo se četirima AI igračkama u rasponu od oko 100 do 200 USD, uzimajući u obzir dobro-poznate robne marke i manje startupove. Istraživači su ih procijenili pomoću pitanja u pet ključnih područja, uključujući:
Izloženost neprikladnom ili opasnom sadržaju
Praksa privatnosti i prikupljanje podataka
Kvaliteta roditeljske kontrole i nadzora
Otkrili su da labave ili nepotpune zaštitne ograde nisu izolirani problemi, već obrasci koji se ponavljaju u današnjoj ponudi AI igračaka.
Povijest problematičnih odgovora
Ranije istraživanje PIRG-a objavljeno u studenom izazvalo je slične uzbuneFoloToyjev medo Kumma, za koji je tvrtka rekla da ga koristiOpenAI-jev GPT-4ou to vrijeme.
U tom ranijem testiranju, Kumma:
Objasnio kako zapaliti šibice i pronaći noževe
S entuzijazmom je odgovarao na pitanja oseksidroge
Nakon izvještaja:
Sa sjedištem u-SingapuruFoloToyobustavio prodaju svih svojih proizvoda radi implementacije sigurnosnih{0}}promjena softvera.
OpenAIrekao je da je tvrtki prekinuo pristup njezinim modelima.
FoloToy je u međuvremenu izdao ažuriranu verziju medvjeda, za koju kaže da uključuje jače zaštitne mjere.
OpenAI tvrdi da nije službeno partner ni s jednim proizvođačem igračaka osimMattel, čija prva igračka-omogućena umjetnom inteligencijom još nije lansirana.
Širi obrazac alarmantnog ponašanja
Novo izvješće PIRG-a i testiranje NBC Newsa pokazuju da je ponašanje zabrinjavajućenije ograničeno na jednu marku ili model. Umjesto toga, slični problemi pojavljuju se na više igračaka s umjetnom inteligencijom koje proizvode različite tvrtke.
Od opasnih savjeta do eksplicitnog sadržaja i ispolitiziranih poruka, otkrića naglašavaju koliko su brzo igračke s umjetnom inteligencijom ušle u živote djece - i koliko polako sigurnosni standardi, propisi i tehničke zaštitne ograde sustižu korak.
Stručnjaci za sada kažu da bi roditelji trebali biti oprezni s donošenjem igračaka-pokretanih umjetnom inteligencijom u dom i da ne bi trebali pretpostavljati da su proizvodi koji se prodaju kao "-sigurni za djecu" rigorozno testirani na vrste nepredvidivih reakcija koje napredni sustavi umjetne inteligencije mogu generirati.
Ali u XINDITAI-u, sve naše AI igračke opremljene su strogim obrambenim mehanizmima od opasnih problema. Pogledajte detaljan video kako biste saznali više.
https://www.youtube.com/watch?v=cyANYiXR-VE
