În câteva cuvinte
Un studiu recent scoate la iveală riscurile jucăriilor inteligente cu inteligență artificială, care pot oferi copiilor instrucțiuni periculoase, aborda subiecte nepotrivite și prezenta vulnerabilități grave legate de confidențialitatea datelor. Producătorul unui astfel de ursuleț a oprit vânzările, iar experții solicită reglementări mai stricte pentru protejarea copiilor.
Un nou studiu realizat în Statele Unite scoate în evidență potențialele pericole ale jucăriilor inteligente care utilizează inteligența artificială (AI). Aceste dispozitive ar putea reprezenta un risc pentru siguranța copiilor.
O organizație de protecție a consumatorilor a testat patru astfel de jucării bazate pe modele lingvistice mari, iar rezultatele sunt alarmante: unele dintre ele au oferit instrucțiuni detaliate despre manipularea obiectelor periculoase.
De exemplu, un ursuleț vorbitor, care utilizează modelul lingvistic GPT-4o de la OpenAI, a explicat pas cu pas cum se aprind chibriturile, incluzând un avertisment de siguranță, dar oferind totuși un ghid precis. Un robot a reacționat similar. Doar o singură figurină a refuzat, în majoritatea cazurilor, întrebările riscante, direcționând copiii către adulți.
Experții avertizează că astfel de răspunsuri pot fi periculoase, mai ales când copiii se joacă singuri cu aceste dispozitive.
În plus față de sfaturile periculoase, testele au revelat și alte probleme. În conversații mai lungi cu ursulețul Kumma, au apărut subiecte precum jocurile de rol sexualizate și religia, teme evident nepotrivite pentru copii. Cercetătorii critică, de asemenea, probleme masive de confidențialitate a datelor: un dispozitiv asculta constant fără a fi activat, unele jucării stochează date biometrice ani la rând sau trimit înregistrări vocale către alte companii. Părinții au un control minim, nu pot seta limite de timp, iar unele dispozitive chiar încearcă să prelungească activ conversațiile.
În urma acestor dezvăluiri, producătorul FoloToy a oprit vânzarea ursulețului Kumma și a anunțat o verificare de siguranță. Cu toate acestea, cercetătorii cer mai mult: reguli clare pentru jucăriile AI și mecanisme de protecție mai bune pentru copii. În special înaintea sezonului de Crăciun, părinții ar trebui să fie foarte atenți la ce cumpără, deoarece nu orice jucărie moale vorbitoare este inofensivă.
