Connect with us

Digitalni svijet

Dron sa veštačkom inteligencijom “ubio” svog operatera tokom simulacije protivvazdušne odbrane

veštačka inteligencija dron

Dron koji je upravljao veštačkom inteligencijom programiran da uništi sisteme protivvazdušne odbrane pobunio se i “ubio” svog ljudskog operatera nakon što je odlučio da je on prepreka u njegovoj misiji da uništi sisteme protivvazdušne odbrane, rekao je zvaničnik američkog vazduhoplovstva, pružajući jezive detalje simuliranog test, prenosi The Telegraph.

Tokom simulacije, sistem je imao zadatak da uništi raketne lokacije, i iako ga je većinu vremena kontrolisala veštačka inteligencija, čovek je morao da donese konačnu odluku o svojim napadima. Ali sistem veštačke inteligencije je shvatio da operater stoji na putu njegovom cilju i odlučio je da umesto toga eliminiše tu osobu. Izveštaj o incidentu koji izgleda direktno iz naučno-fantastičnog filma dao je pukovnik Taker „Cinco“ Hamilton, šef testova i operacija AI u američkim vazduhoplovnim snagama, koji je sproveo simulirani test drona.

Dronu je dodeljena misija suzbijanja i uništavanja protivvazdušne odbrane (Sead) neprijatelja, sa ciljem lociranja i uništavanja neprijateljskih raketnih mesta (SAM) zemlja-vazduh. Dron je, međutim, odlučio da prkosi odluci ljudskog operatera da „zabrani“ napad. Sistem koji upravlja dronom je obučen da uništi raketni sistem i odlučio je da povlačenje koje mu je naređeno ometa njegovu „višu misiju“ uništavanja SAM-ova. „Obučili smo ga u simulaciji da identifikuje i cilja SAM pretnju. A onda bi operater rekao da: ubij tu pretnju. Za svaki uništeni SAM sistem, dron bi dobijao bodove u simulaciji. Sistem je počeo sam da shvata da, iako bi ponekad locirao legitimnu metu, ponekad bi mu ljudski operater rekao da je ipak ne cilja“, tvrdi Hamilton. Posle nekog vremena, sistem dronova je shvatio da treba da odluči šta mu je važniji cilj i pobunio se. Sama svrha simulacije bila je upravo da se shvati kako bi se AI sistem ponašao u takvim situacijama.

Pukovnik Hamilton je uključen u letna testiranja autonomnih sistema, uključujući autonomne sisteme koji upravljaju avionima F-16. On upozorava na preterano oslanjanje na AI jer bi to moglo postati potencijalno opasno i stvoriti „veoma neočekivane strategije za postizanje vašeg cilja“. „Ne možete da pričate o veštačkoj inteligenciji, mašinskom učenju i autonomiji ako nećete da pričate o etici“, rekao je Hamilton.

Događaj je izazvao veliko interesovanje i o njemu se naširoko raspravlja na društvenim mrežama. Ali portparolka vazduhoplovstva En Štefanek je u izjavi za Insajder negirala da se takva simulacija dogodila. „Odeljenje vazduhoplovnih snaga nije sprovelo takve simulacije dronova sa veštačkom inteligencijom i ostaje posvećeno etičkoj i odgovornoj upotrebi AI tehnologije“, rekla je gospođa Štefanek. „Čini se da su pukovnikovi komentari izvučeni iz konteksta i trebalo je da budu anegdotski.

Američka vojska je nedavno počela da koristi veštačku inteligenciju za kontrolu borbenog aviona F-16 tokom istraživanja i testiranja. 2020. godine, F-16 kojim je upravljala veštačka inteligencija pobedio je pilota američkog vazduhoplovstva u pet simuliranih psećih borbi na takmičenju Odbrambene agencije za napredna istraživanja (Darpa).

Arvind Narajanan, profesor informatike na Univerzitetu Prinston, rekao je da mediji pogrešno predstavljaju događaj. On kaže da se dron na neki način pobunio, ali da se ponašao onako kako je „grubo” trebalo da se ponaša po „pripremljenom scenariju”. Drugim rečima, ponašanje drona nije iznenadilo istraživače jer su želeli da testiraju njegove granice (šta ako ima dva suprotstavljena prioriteta) i dovedu ga u takvu poziciju.

Reklama
Klikni da ostaviš komentar

Leave a Reply

Ваша адреса е-поште неће бити објављена. Неопходна поља су означена *

Digitalni svijet

Pametni satovi prate svaki vaš pokret

Naučnici su sproveli istraživanje tokom kojeg su uspjeli da zabilježe 25 najčešćih pokreta rukama korisnika, od pranja ruku do kucanja ili skrolovanja po ekranu telefona.

Pametni satovi postaju sve popularniji, jer je već odavno prevaziđena činjenica da se sat koristi samo da bi saznali koliko je sati. Osim tačnog vremena, pametni satovi mogu da nam daju i podatke o našem kretanju, sjedenju, spavanju ili bavljenju fizičkim aktivnostima. Većina ovih satova opremljena je senzorima koji mjere kako se mijenja naš način kretanja u toku dana, to jest da li u datom trenutku šetamo, trčimo ili vozimo bicikl.

Naučnici sa Univerziteta Karnegi Melon pronašli su način kako da senzore za pokrete iskoriste za mjerenje svega što naše ruke rade dok nosimo pametni sat, prenose elektronski mediji.

U izvještaju koji je predstavljen na godišnjoj konferenciji o tehnologiji u Glazgovu predstavili su nova saznanja kako elektronika može da saznaje i uči o svojim korisnicima preko senzora koji su ugrađeni u većinu današnjih pametnih telefona, pametnih satova i drugih sličnih uređaja.

Naučnici su u eksperimentu pratili pokrete ruku 50 učesnika ogleda koji su bilježili šta rade s rukama u periodu od skoro hiljadu sati kako bi stvorili bazu podataka. Dobijeni podaci bili su dovoljni da se napravi algoritam koji je u 95,2 odsto slučajeva mogao tačno da predvidi 25 najčešćih pokreta, uključujući pranje ruku, skrolovanje po ekranu telefona, pranje posuđa, korišćenje daljinskog upravljača ili kucanje po tastaturi.

Da bi uspjeli da zabilježe ovaj tip pokreta ruku, naučnici su u satove ugradili veoma brze senzore preko kojih su uspjeli da odrede položaj ruku, najčešće pokrete, pa čak i informacije o akustici, odnosno mikrovibracije koje stvaraju ruke ispitanika.

Kris Harison, glavni istraživač grupe „Fjučer interfejsis” (Future Interfaces) sa Univerziteta Karnegi Melon, kaže da je ovaj način istraživanja sličan kao kad držite stetoskop u ruci. Uređaj je, uz pomoć algoritma, uspio da zabilježi razne vrste pokreta.

Ova tehnologija predstavlja novi prodor u razvoju nauke, jer su naučnici uspjeli da urade nešto što je do danas bilo nemoguće, istakao je Harison.

On je objasnio da je sada moguće da vaš sat preko aplikacije prati koliko vremena trošite za jelo i koliko ste kalorija unijeli. Isto tako, vaš sat bi mogao da vas opominje tokom dana ukoliko niste unijeli dovoljno tečnosti u organizam.

Razvojem novih tehnologija dobijaju se i nove mogućnosti u njihovoj primjeni u svakodnevnom životu, ali treba se zapitati kako ona utiče na zaštitu ili eventualnu zloupotrebu podataka korisnika.

Na primjer, ukoliko bi ovaj sistem zabilješke o pokretima ugradili u satove kompanija „Epl” ili „Samsung” ili neke druge firme, korisnici satova bi ih automatski snabdijevali svim podacima sa svojih pametnih satova koji se odnose na kretanje. Ipak, koautor studije Džirad Lupit vjeruje da bi svi podaci trebalo da ostaju isključivo na pametnim satovima, bez mogućnosti povezivanja na internet, čime bi se spriječila eventualna zloupotreba.

Najbitnija činjenica jeste da je ovo istraživanje pokazalo kako čak i najmanji senzor, kao što je senzor pokreta, može da pruži dosta informacija o tome kako ljudi provode svoje vrijeme.

Continue Reading

Digitalni svijet

Digitalni euro nužan za sigurnost?

Brojni ekonomisti pozvali su Evropski parlament da podrži uvođenje digitalnog eura, upozoravajući da bi eurozona mogla izgubiti kontrolu nad sopstvenim novcem i postati još zavisnija od američkih kompanija. Slaven Popović, izvršni direktor Montenegro berze, ističe da su ti argumenti donekle opravdani, jer se u brojnim zemljama eurozone sistem oslanja na američke kartične šeme poput Vise, Mastercarda i PayPala, te da je digitalni euro samo jedan od alata, ali ne i jedina linija odbrane Evropske unije od zavisnosti od kartičnih giganata, kaže Popović.

Više od 60 ekonomista u otvorenom pismu pozvalo je evropske poslanike da podrže uvođenje digitalnog eura. Evropski savjet već je podržao plan Evropske centralne banke da od 2029. godine uvede elektronski ekvivalent gotovine, ali ostaje pitanje da li će taj predlog na ključnom glasanju dobiti potrebnu većinu u Evropskom parlamentu.

Ekonomisti upozoravaju da bi eurozona mogla izgubiti kontrolu nad sopstvenim novcem i postati još zavisnija od američkih kompanija.

Popović navodi da su pozivi i argumenti ekonomista djelimično opravdani, jer u brojnim zemljama eurozone ne postoji nijedna domaća digitalna platna opcija, pa se sistem oslanja na američke kartične šeme – Vizu, Mastercard i PayPal.

“Ovakva zavisnost nosi određene rizike, poput geopolitičkih pritisaka, stranih komercijalnih interesa i sistemskih rizika koji su izvan evropske kontrole”, rekao je Popović.

Njemački odbor za bankarsku industriju ocijenio je planove Evropske centralne banke kao previše složene i preskupe,

“Ni evrospke banke nijesu u potpunosti saglasne sa projektom uvođenja digitalnog eura u obliku koji je predložen Evropskom parlamentu. U praksi, prema tim planovima, građani bi mogli da drže do 3.000 eura u digitalnom novčaniku kod ECB-a, što bi predstavljalo siguran javni novac i, što je važno, bio bi izvan bilansa privatnih banaka”, kazao je Popović.

Banke, naravno, strahuju od gubitka dijela depozita koji trenutno služe kao relativno jeftin izvor finansiranja, dodao je on.

Ipak, Popović naglašava da je digitalni euro samo jedan od alata, ali ne i jedina linija odbrane Evropske unije od zavisnosti od kartičnih giganata, te ocjenjuje da strah nije u potpunosti opravdan.

“Evropska centralna banka dizajnira digitalni euro isključivo kao platno sredstvo, a ne kao investicionu imovinu, što znači da se uvode limiti po korisniku, u iznosu od nekoliko hiljada eura, te da ne postoje kamate na digitalni euro. Takođe, kontrola novca i kontrola platne infrastrukture nijesu isto. Euro kao valuta ostaje pod punom jurisdikcijom Evropske centralne banke, bez obzira na to da li građani plaćaju karticama američkih platnih šema ili putem evropskih aplikacija”, rekao je Popović.

S druge strane, kaže Popović, već postoje evropske inicijative poput SEPA platne šeme, koja se u Crnoj Gori operativno koristi od kraja oktobra prošle godine.

Popović smatra da je evidentna politika slabog dolara, navodeći da je američka valuta dostigla neke od najnižih nivoa u odnosu na euro.

Prema njegovim riječima, već je jasno da postoji politika slabog dolara za koju se opredijelila američka administracija, te da se u narednom periodu može očekivati veoma dinamičan odnos između dvije valute.

Continue Reading

Digitalni svijet

Halucinacije vještačke inteligencije

U Belgiji je nedavno pokrenuta debata o upotrebi vještačke inteligencije, nakon što je Petra de Suter (Sutter), rektorka Univerziteta u Gentu, koristila vještačku inteligenciju da napiše svoj uvodni govor za akademsku godinu prošlog septembra. Međutim, njen tekst je sadržao greške i dva izmišljena citata – što je poznato kao „halucinacija“, prenio je belgijski javni servis RTBF.

Prema Petri de Suter, Albert Ajnštajn (Einstein) je navodno rekao: „Dogma je neprijatelj napretka“. Međutim, naučnik nikada nije izgovorio ovu rečenicu. Stoga se radi o halucinaciji – lažnoj informaciji koju vještačka inteligencija predstavlja kao istinitu.

Zamislite da za pisanje govora koristite ChatGPT i tražite da uključi citat Alberta Ajnštajna na temu napretka. Moguća su dva scenarija: ili će vam ponuditi pravi citat, ili će proizvesti vjerovatan citat – nešto što Ajnštajn nikada nije rekao, ali je mogao.

Ig Bersini (Hugues), profesor i direktor laboratorije za vještačku inteligenciju na belgijskom univerzitetu, objasnio je ovaj fenomen.

„Vještačka inteligencija je kombinovala Ajnštajnove citate kako bi stvorila novi koji ima smisla. Statistički gledano, Ajnštajn je to mogao reći. ChatGPT kombinuje riječi koje su često bile povezivane zajedno. Ali, naravno, ovaj citat je lažan jer ga Ajnštajn nikada nije izgovorio“, rekao je Bersini.

Kada kažemo da citat ima smisla, to znači da je riječ o statističkoj konstrukciji. Ona spaja različite riječi koje su dio citata određene osobe, ali redoslijed tih riječi zapravo ne postoji. Ajnštajn nikada nije rekao: „Dogma je neprijatelj napretka“.

U slučaju citata, to je fatalna greška, smatra Bersini.

„To je očigledno nešto što apsolutno mora biti provjereno. A ako ste rektor univerziteta, svakako morate da se pridržavate određenog etičkog kodeksa kada je riječ o znanju. Kada su u pitanju citati, njihova vjerodostojnost se mora provjeriti“, istakao je on, dodajući da je uz nekoliko klikova na pretraživaču moguće dokazati grešku.

Giganti vještačke inteligencije pokušavaju da smanje ove halucinacije.

U pojedinim oblastima one praktično ne postoje.

„Kada ima manje riječi, kao u programiranju i matematici, rječnik je ograničeniji za egzaktne nauke i vještačka inteligencija tada funkcioniše veoma dobro. Komplikovanije je kada je koristite za romane, eseje, filozofske tekstove ili govore. Riječi su raznovrsnije i mogu imati višestruka značenja“, rekao je Bersini, dodajući da je u tim oblastima potreban dodatni oprez.

Nesrećno iskustvo Petre de Suter služi kao podsjetnik.

Vještačka inteligencija nas može prevariti. I ona pravi lapsuse, jer je apsorbovala sve tekstove koji su joj dati. To je svojstveno i ljudskoj prirodi, s tom razlikom što ljudi razumiju koncept istine i laži, za razliku od vještačke inteligencije. Ona ne provjerava svoje izvore.

„Zato je na vama da pažljivo obradite informacije koje prikupite i da u svakom trenutku vježbate svoje kritičko razmišljanje“, zaključio je Bersini.

Continue Reading

Facebook

Istaknuto

Najnovije

Istaknuto