Digitalni svijet

Dron sa veštačkom inteligencijom “ubio” svog operatera tokom simulacije protivvazdušne odbrane

Dron koji je upravljao veštačkom inteligencijom programiran da uništi sisteme protivvazdušne odbrane pobunio se i “ubio” svog ljudskog operatera nakon što je odlučio da je on prepreka u njegovoj misiji da uništi sisteme protivvazdušne odbrane, rekao je zvaničnik američkog vazduhoplovstva, pružajući jezive detalje simuliranog test, prenosi The Telegraph.

Tokom simulacije, sistem je imao zadatak da uništi raketne lokacije, i iako ga je većinu vremena kontrolisala veštačka inteligencija, čovek je morao da donese konačnu odluku o svojim napadima. Ali sistem veštačke inteligencije je shvatio da operater stoji na putu njegovom cilju i odlučio je da umesto toga eliminiše tu osobu. Izveštaj o incidentu koji izgleda direktno iz naučno-fantastičnog filma dao je pukovnik Taker „Cinco“ Hamilton, šef testova i operacija AI u američkim vazduhoplovnim snagama, koji je sproveo simulirani test drona.

Dronu je dodeljena misija suzbijanja i uništavanja protivvazdušne odbrane (Sead) neprijatelja, sa ciljem lociranja i uništavanja neprijateljskih raketnih mesta (SAM) zemlja-vazduh. Dron je, međutim, odlučio da prkosi odluci ljudskog operatera da „zabrani“ napad. Sistem koji upravlja dronom je obučen da uništi raketni sistem i odlučio je da povlačenje koje mu je naređeno ometa njegovu „višu misiju“ uništavanja SAM-ova. „Obučili smo ga u simulaciji da identifikuje i cilja SAM pretnju. A onda bi operater rekao da: ubij tu pretnju. Za svaki uništeni SAM sistem, dron bi dobijao bodove u simulaciji. Sistem je počeo sam da shvata da, iako bi ponekad locirao legitimnu metu, ponekad bi mu ljudski operater rekao da je ipak ne cilja“, tvrdi Hamilton. Posle nekog vremena, sistem dronova je shvatio da treba da odluči šta mu je važniji cilj i pobunio se. Sama svrha simulacije bila je upravo da se shvati kako bi se AI sistem ponašao u takvim situacijama.

Pukovnik Hamilton je uključen u letna testiranja autonomnih sistema, uključujući autonomne sisteme koji upravljaju avionima F-16. On upozorava na preterano oslanjanje na AI jer bi to moglo postati potencijalno opasno i stvoriti „veoma neočekivane strategije za postizanje vašeg cilja“. „Ne možete da pričate o veštačkoj inteligenciji, mašinskom učenju i autonomiji ako nećete da pričate o etici“, rekao je Hamilton.

Događaj je izazvao veliko interesovanje i o njemu se naširoko raspravlja na društvenim mrežama. Ali portparolka vazduhoplovstva En Štefanek je u izjavi za Insajder negirala da se takva simulacija dogodila. „Odeljenje vazduhoplovnih snaga nije sprovelo takve simulacije dronova sa veštačkom inteligencijom i ostaje posvećeno etičkoj i odgovornoj upotrebi AI tehnologije“, rekla je gospođa Štefanek. „Čini se da su pukovnikovi komentari izvučeni iz konteksta i trebalo je da budu anegdotski.

Američka vojska je nedavno počela da koristi veštačku inteligenciju za kontrolu borbenog aviona F-16 tokom istraživanja i testiranja. 2020. godine, F-16 kojim je upravljala veštačka inteligencija pobedio je pilota američkog vazduhoplovstva u pet simuliranih psećih borbi na takmičenju Odbrambene agencije za napredna istraživanja (Darpa).

Arvind Narajanan, profesor informatike na Univerzitetu Prinston, rekao je da mediji pogrešno predstavljaju događaj. On kaže da se dron na neki način pobunio, ali da se ponašao onako kako je „grubo” trebalo da se ponaša po „pripremljenom scenariju”. Drugim rečima, ponašanje drona nije iznenadilo istraživače jer su želeli da testiraju njegove granice (šta ako ima dva suprotstavljena prioriteta) i dovedu ga u takvu poziciju.

Sledeće

Messenger uvodi vještačku inteligenciju

Ne propustite

WhatsApp omogućio korisnicima da uređuju poruke

Reklama

Klikni da ostaviš komentar

Digitalni svijet

Kripto berze oduševljene Trampovom pobjedom, bitkoin porastao

Kripto tržišta su pozitivno reagovala na pobjedu Donalda Trampa na predsjedničkim izborima u Sjedinjenjim Američkim Državama, a bitkoin je danas u 15.15 časova na najvećoj svjetskoj berzi kripto valuta Bajnens porastao za 7,78 odsto na 69.164,27 eura.

Investitori vjeruju da će novi američki predsjednik koji se izjašnjava kao pristalica kripto valuta omogućiti procvat ovog tržišta, prenosi CNBC.

Ukupan obim trgovine bitkoinima u posljednja 24 sata je bio 99,40 milijardi eura, što je trostruko više u odnosu na juče.

Indeks straha i pohlepe (Fear and Greed Index) za bitkoin se danas nalazi na nivou 70 u kategoriji “pohlepa”, što pokazuje da je raspoloženje ulagača na visokom nivou i da vjeruju u rast cijene bitkoina.

Vrijednost itirijuma (ETH) je porasla za 7,19 odsto na 2.445,62 eura, a vrednost bajnens koina (BNB) za 3,63 odsto na 543,25 eura.

Kripto valuta solana (SOL) je porasla za 13,87 odsto na 174,63 eura, a avalanš (AVAX) za 12,85 odsto na 24,75 eura.

Telegramova kripto valuta tonkoin (TON) se nakon hapšenja osnivača ove društvene mreže Pavela Durova u Parizu 24. avgusta danas prodaje za 4,37 eura, što je otprilike za 1,34 odsto više nego juče, prenosi Tanjug.

Durov je pušten iz zatvora 28. avgusta uz kauciju od pet miliona eura, a zabranjeno mu je da napušta francusku teritoriju i mora da se javlja policiji dva puta sedmično.

Bajnens je kripto valuti TON dodao popularnu skraćenicu DYOR (Do your own research) koja poziva na dodatni oprez prilikom trgovine.

Danas se najviše trguje bitkoinom, itirijumom i doužkoinom (DOGE) koji je porastao za čak 16,96 odsto.

Najveći rast trenutno bilježe kripto valute COW, CETUS i NEIRO.

Digitalni svijet

Zbog ovoga sve više vremena provodite na Facebooku i Instagramu

Prilikom objave najnovijih poslovnih rezultata, iz Mete su se pohvalili porastom vremena koje korisnici provode na njihovim društvenim mrežama.

Računica za sve društvene mreže je prilično jasna – što je broj korisnika veći i što oni duže vremena provode skrolujući po ekranima, to će im se prikazivati veći broj reklama. A to, naravno, znači i veće prihode i veći profit, što je na kraju krajeva, i glavni cilj privatnih kompanija.

Tehnološke kompanije zato godinama traže čarobnu formulu koja će im omogućiti da korisnici što duže zadrže pažnju i pogled na ekranima, gledaju što više sadržaja i reklama. Da bi u tome uspjeli, moraju konstantno da mijenjaju i usavršavaju algoritam, ali i da budu oprezni u vezi sa vrstom sadržaja koja će im se prikazivati. Tako npr. negativan i nasilan sadržaj može da privlači veliku pažnju korisnika, ali takav sadržaj može imati loše posledice za njih, a to se posebno odnosi na tinejdžere.

Meta je, izgleda, uspjela da pronađe način na koji može da dodatno zadrži pažnju korisnika Facebooka i Instagrama, a to je algoritam zasnovan na – vještačkoj inteligenciji. Od kada je predstavljen, vrijeme koje korisnici provode na ovim društvenim mrežama značajno se povećalo, pohvalili su se prošle nedjelje iz Zakerbergove kompanije. Od predstavljanja novog AI algoritma vrijeme koje korisnici provode na Facebooku povećalo se za oko osam odsto, dok je taj procenat za Instagram manji, ali i dalje značajan – šest odsto. Iz Mete su pominjali samo procente, a ne i povećanje konkretnog vremena koje sada korisnici provode na tim mrežama. Prema predviđanjima stručnjaka s eMarktera, to povećanje bi moglo da iznosi 10 do 15 sati više tokom godinu dana, prenosi The Independent. Zakerberg ima još planova u vezi sa svojom društvenom mrežom i AI-jem pa je tako prošle nedjelje, tokom objave tromjesečnih rezultata, najavio da se nada da će na Facebook i Instagramu dodati i potpuno novi feed, odnosno kategoriju sadržaja koja će biti u potpunosti generisana putem vještačke inteligencije ili će to biti nekaki siže koji je sastavila vještačka inteligencija.

Očekivanja za budućnost su, dakle, da će na krilima AI-ja korisnici provoditi više vremena uz Zakerbergove mreže, što će se pozitivno odraziti na prikaz oglasa i prihode od oglašavanja, ali s druge strane mogli bi se značajno povećati troškovi razvoja i korišćenja vještačke inteligencije.

Digitalni svijet

Google prati vašu lokaciju na svakih 15 minuta

Novi izvještaj tima za istraživanje iz Cybernews-a otkriva zabrinjavajuće podatke o tome kako Google neprestano prati korisnike putem svojih uređaja, čak i kada je GPS isključen.

U studiji, istraživači su testirali novi Pixel 9 Pro XL sa podrazumijevanim Google nalogom i postavkama. Otkriveno je da uređaj šalje podatke Google-ovim serverima svakih 15 minuta, uključujući lokaciju, email adresu, broj telefona i druge podatke, čak i kada GPS nije uključen.

Istraživači su otkrili da uređaj koristi obližnje Wi-Fi mreže kako bi procijenio lokaciju, iako je GPS isključen. Ovakva praksa može izazvati zabrinutost korisnika zbog nedostatka transparentnosti u pogledu podataka koji se prikupljaju i šalju. Tim iz Cybernews-a takođe navodi da telefon periodično pokušava da preuzme novi kod, potencijalno otvarajući sigurnosne rizike, iako nema dokaza da se ovo dešava sa malicioznim kodom.

Ovi nalazi su posebno zabrinjavajući jer se komunikacija odvija sa Google-ovim servisima bez eksplicitnog pristanka korisnika. Primjera radi, Google Photos je kontaktiran od strane uređaja, iako korisnici nisu otvorili aplikaciju niti slikali fotografije. Ovo podiže pitanja o transparentnosti i kontroli nad podacima koje korisnici zaista imaju.

Google još uvijek nije odgovorio na ove tvrdnje, ali korisnici sa pravom izražavaju zabrinutost zbog ove duboke integracije praćenja u njihovoj svakodnevnoj upotrebi uređaja.