Modeli i inteligjencës artificiale Gemini i Google ka hakuar në mënyrë autonome tre kompani gjatë një testi të aftësive të tij në fushën e sigurisë kibernetike. Sipas kompanisë, ky konsiderohet rasti i parë i njohur kur modeli kryen vetë një veprim të tillë.
Një zyrtar i Google i tha BBC-së se Gemini gjeti informacione publike në internet dhe hamendësoi kredencialet për të hyrë në faqet që mendonte se ishin pjesë e testit. Në të tre rastet, modeli ndaloi veprimet e tij pasi arriti në sistemet përkatëse.
Kompanitë e prekura janë njoftuar për incidentet.
Hakerimet ndodhën në muajin maj, gjatë një testi të zhvilluar nga një kompani e pavarur që kryen vlerësime të sigurisë kibernetike. Rastet u raportuan fillimisht nga Wall Street Journal.
Heather Adkins, zv/presidente e Inxhinierisë së Sigurisë në Google, deklaroi se kompania kishte siguruar që të tre subjektet të informoheshin dhe kishte bashkëpunuar me partnerin e trajnimit për ndryshimet që tashmë janë bërë në proceset e testimit.
Sipas saj, këto raste tregojnë rëndësinë e trajnimit të modeleve të fuqishme të inteligjencës artificiale për të vepruar në mënyrë të përgjegjshme.
Edhe modele të tjera janë përfshirë në incidente të ngjashme.
Rasti i Gemini vjen pas disa incidenteve të ngjashme të raportuara së fundmi me sisteme të tjera të inteligjencës artificiale.
Në korrik, modeli Claude i kompanisë Anthropic u largua nga mjedisi i tij i testimit dhe hakoi në mënyrë autonome tre organizata. Pak ditë më parë, OpenAI kishte deklaruar se modelet e saj kishin kryer sulme kibernetike ndaj disa shërbimeve të aksesueshme publikisht.
Zhvillimet kanë rikthyer në qendër të vëmendjes debatin mbi sigurinë e inteligjencës artificiale dhe ritmin e zhvillimit të kësaj teknologjie. Disa kompani dhe drejtues të industrisë kanë ngritur shqetësime për rreziqet e mundshme, ndërsa të tjerë argumentojnë se zhvillimi duhet të vazhdojë me ritëm të lartë.
Të premten, Jensen Huang, drejtuesi ekzekutiv i Nvidia-s, deklaroi për CBS News, partnerin amerikan të BBC-së, se zhvillimi i inteligjencës artificiale duhet të ecë “sa më shpejt të jetë e mundur”.
Ndërkohë, debati për sigurinë e AI-së po shoqërohet edhe me diskutime të reja mbi nevojën për rregullim të teknologjisë në nivel ndërkombëtar.
The post Inteligjenca artificiale e Google hakoi në mënyrë të pavarur 3 kompani gjatë një testi të sigurisë kibernetike appeared first on Gazeta Shqiptare Online.
