Një studim i ri ka ngritur shqetësime për përdorimin e veçorive të inteligjencës artificiale të Google nga fëmijët, duke i cilësuar disa prej rreziqeve si “të papranueshme”. Organizata Common Sense Media ka analizuar funksionet e inteligjencës artificiale të Google dhe ka theksuar se ato paraqesin shqetësime të veçanta për shkak të përdorimit të gjerë të pajisjeve Chromebook në shkolla.
Sipas studimit, një nga problemet kryesore lidhet me përdorimin e AI-së për detyrat e shtëpisë, pasi sistemi mund të japë zgjidhje të gatshme në vend që të ndihmojë nxënësit në procesin e të mësuarit. Gjithashtu, përgjigjet e dhëna nga sistemi mund të ndryshojnë nga një kërkesë në tjetrën, duke krijuar pasiguri për saktësinë e informacionit.
Raporti ngre shqetësime edhe për mënyrën se si inteligjenca artificiale reagon ndaj situatave të ndjeshme që lidhen me shëndetin mendor të fëmijëve, duke pretenduar se sistemi nuk ka identifikuar gjithmonë shenja të krizave emocionale apo rreziqeve të mundshme.
Sipas organizatës, funksionet si AI Mode dhe AI Overviews nuk mund të çaktivizohen nga përdoruesit, çka shton shqetësimet për kontrollin dhe sigurinë e përmbajtjes që u shfaqet fëmijëve.
Studimi vlerëson se mjetet e inteligjencës artificiale të Google kanë performuar dobët në shumicën e parimeve të sigurisë së AI-së të testuara nga organizata, duke nxitur debat të ri mbi mbrojtjen e fëmijëve në epokën e teknologjisë së avancuar.