18 zemalja se ujedinilo za bezbednosne standarde veštačke inteligencije

Osamnaest zemalja, uključujući Sjedinjene Države, Ujedinjeno Kraljevstvo, Australiju, Kanadu, Francusku, Njemačku, Izrael, Italiju, Japan, Novi Zeland, Nigeriju, Norvešku, Južnu Koreju i Singapur, zajednički su objavile set smjernica usmjerenih na jačanje sigurnosti AI modela. Objavljen 26. novembra, dokument na 20 stranica poziva kompanije sa umjetnom inteligencijom da daju prioritet sajber sigurnosti, naglašavajući potrebu za praksama “sigurne po dizajnu”. Ova inicijativa, koju predvodi američki sekretar za unutrašnju sigurnost Alejandro Mayorkas, naglašava kritičnu ulogu sajber sigurnosti u polju AI koji se brzo razvija.

Dokument nudi široke preporuke, kao što je stroga kontrola nad infrastrukturom umjetne inteligencije i kontinuirano praćenje za potencijalno neovlašteno korištenje. Takođe se naglašava važnost obuke osoblja u oblasti sajber bezbednosti. Međutim, on se ne bavi nekim kontroverznim pitanjima u AI, kao što je regulacija modela za generiranje slika, deepfakes i korištenje podataka u modelima obuke, što je dovelo do tužbi za kršenje autorskih prava protiv nekoliko AI firmi.

Mayorkas je naglasio ključni trenutak u razvoju umjetne inteligencije, prepoznajući AI kao tehnologiju koja ima dubok uticaj, gdje je sajber sigurnost ključna za osiguranje njene sigurnosti i pouzdanosti.

Ove smjernice su dio šireg trenda vladinog angažmana u regulaciji AI. Ranije ovog mjeseca, u Londonu je održan Samit o sigurnosti umjetne inteligencije s fokusom na sporazume o razvoju umjetne inteligencije. Istovremeno, Evropska unija usavršava svoj zakon o veštačkoj inteligenciji kako bi regulisao ovaj sektor, a američki predsednik Džo Bajden je u oktobru izdao izvršnu naredbu kojom se uspostavljaju bezbednosni i bezbednosni standardi veštačke inteligencije. Inicijative EU i SAD suočile su se s otporom industrije umjetne inteligencije zbog zabrinutosti zbog gušenja inovacija.

Glavne AI firme poput OpenAI, Microsoft, Google, Anthropic i Scale AI također su igrale ulogu u oblikovanju ovih novih sigurnosnih smjernica.

izvor