[ number42 @ 30.05.2013. 19:42 ] @
neverovatno koliko ovo lici na ostvarenje scenarija iz filma "terminator". da li je moguce da je razvoj ai vec dosao do ovoga.

http://www.klix.ba/scitech/teh...i-treba-ih-zabraniti/130530089

UN upozoravaju: "Roboti ubice" predstavljaju prijetnju za mir i treba ih zabraniti

"Roboti ubice" koji mogu napasti mete a da ih čovjek i ne aktivira predstavljaju prijetnju međunarodnoj stabilnosti i treba ih zabraniti prije nego što uopće budu napravljeni, smatraju Ujedinjene nacije.

Christof Heyns, UN-ov specijalni reporter o vansudskim, skupnim ili samovoljnim pogubljenjima, obratit će se UN-ovom Vijeću za ljudska prava u Ženevi i tražiti svjetski moratorij za ono što on naziva "smrtonosnom autonomnom robotikom", oružanim sistemima koji, kada se aktiviraju, mogu nanišaniti i ubiti metu bez potrebe za ljudskom kontrolom.

"Mašine nemaju morala i nisu smrtne, prema tome, ne trebaju raspolagati životom i smrti ljudi", kaže Heyns.

Heynsov poziv za moratorij dovodi UN u svijet naučne fantastike. Potpuno autonomna oružja još uvijek nisu razvijena i postoje jedino u mašti vojnih planera. Ipak, eksperti za ratnu tehnologiju upozoravaju da se svjetske vojne sile rapidno kreću u ovom smjeru i preventivna zabrana je neophodna.

"Države rade na sve većoj autonomiji oružja i takva tehnologija mogla bi biti razvijena u narednih 10 ili 20 godina", navodi Bonnie Docherty sa Harvardove Klinike za međunarodna ljudska prava, koja je i koautorica izvještaja.

U svom izvještaju Heyns ukazuje na bespilotne letjelice koje su isprva bile namijenjene samo nadgledanju, a upotreba u napadima bila je zabranjena. Ipak, kada su stratezi shvatili njihove prednosti u ubijanju, odmah su dobile novu namjenu.

Steve Goose, direktor oružja u Human Rights Watch, navodi kako je neosporno da su "moderne armije u potrazi za autonomnim oružjem. Pitanje je koliko će daleko ići u toj autonomiji".

Ključni problem, kako ga je Heyns identificirao je, da li će oružanim sistemima budućnosti biti dozvoljeno da autonomno donose odluke o ubijanju, bez ljudske intervencije.

Ova mogućnost podigla je gomilu moralnih i pravnih pitanja, navodi Heyns. Ono što najviše zabrinjava je što bi to moglo dovesti do povećanja udaljenosti između napadača i njihovih meta. "Osim što bi bili fizički udaljeni iz akcije, ljudi bi mogli postati isključeni iz odluka o ubijanju i njihovog izvršenja", kaže Heyns
[ Igor Gajic @ 31.05.2013. 00:23 ] @
Zanimljiv film:

Sleep Dealer (2008)

http://www.imdb.com/title/tt0804529/

o podeli na bogate i siromasne i upotrebi dronova protiv "terorista".

U svakom slucaju doce do raskoraka izmedju iskustava "obicnog" naroda i postupaka njene vlade, mediji ce govoriti o "kinetickoj vojnoj akciji", a vojska ce slati svoje dronove umesto vojnika da vode ratove i onda ce nastupiti situacija: turisti dodju u neku od "demokratizovanih" zemalja i onda se pitaju "A sto na ne vole?".

Mada, do sada se to radilo preko "proxy" zemalja, odnosno vazala koji su ratovali umesto neke sile, ali sada je to sve automatizovano, nema potrebe za mesom, osim geekova iza ekrana i gomile "gvozdja".

Odbrana: poltronizam, jaka PVO, jaka avijacija, mogucnost obaranja komunikacionih satelita (THAAD, ASM-135 ASAT...)

Postoji i teorija zavere, jerbo to uvek sledi, da je u pitanju plan elite da posle nuklearnog rata, kada severna hemisfera bude desetkovana, upotrebi dronove da osvoji Juznu Ameriku za svoje potrebe. Btw. juzna amerika je van dometa kineskih i ruskih nuklearki...


EDIT:

Malo brojki....

USofA avijacija je krenula da koristi dronove tipa MQ-1 od rata u Bosni i na Kosovu, i pocevsi od 2003. upotreba krece da eskalira.

Ukupan nalet dronova tipa Reaper:

2004 71h
2006 3123h
2009 25391h
2010 250000+
2011 300000+

U periodu 2001-2009 sa dronova je ispaljeno 703 Hellfire raketa i 132 GBU-12s (laserski navodjene 250kg bombe) na MOGUCE (suspected) teroriste.

Vrlo dramatican rast upotrebe istih.


Zasad su ovi sistemi na principu video linka. LEtilica ima HD kameru i senzore, podaci se preko vojnih satelita salju u komandne baze (mogu biti i na drugom kraju sveta) i onda operater pritisne dugme i KABOOM (kao u gornje spomenutom filmu) sto vrlo podseca na danasnje igrice, samo sa pravim ljudima kao zrtvama.

Takodje DARPA u svom 40-godisnjem planu zahteva razvoj novih senzora tipa ARGUS-IR i stelt dronove tipa RQ-170 (jedan od tih je poleteo sa nosaca aviona, sto znaci da moze biti upotrebljen u projekciji sile USofA na bilo koju tacku planete). Plan je da se sa ~100 ovakvih letilica pokrije jedna drzava kako vojno, tako i informativno (gomila video strimova koji omogucavaju pracenje terena).

Dalje planira se da posle 2025 razvije citav spektar dronova od minijaturnih, do ogromnih bespilotnih letelica (bukvalno velicine tankera(!!!!)) koji bi bili bez ljudskog nadzora i koji bi mogli da upotrebe silu bez ljudskog upliva.

[Ovu poruku je menjao Igor Gajic dana 31.05.2013. u 01:57 GMT+1]
[ Ivan Dimkovic @ 31.05.2013. 09:13 ] @
Citat:
Igor Gajic
Postoji i teorija zavere, jerbo to uvek sledi,


Ajde :-)

Sto se "robota ubica" tice - oni vec postoje. Zovu se, na primer, tomahavk rakete. Jedina razlika izmedju UN "robota ubica" i njih je u marketingu - u principu princip rada je isti. Tomahavk raketa sama lock-uje svoj cilj na osnovu parametara koje kompjuter u raketi krcka sve vreme i finalnu odluku da li je objekat meta ili ne donosi kompjuter. Nije potreban ljudski "input" kada je raketa ispaljena - dakle, princip identican: autonomna masina za ubijanje.

Tomahavk rakete su vec poduze u upotrebi i nisam primetio da UN dize veliku frku oko njih.

Ali stavi rec "robot" i nekima proradi nesto u glavi.

U svakom slucaju, ako neko ima nesto protiv ubijanja - mislim da postoje mnogo vece ubice od nekakvih dronova. Nisu dronovi razlozi zasto se ljudi ubijaju vec samo alat - i to alat koji jos pravi najmanje kolateralne stete (nevinih zrtava ili infrastrukture).

Igore, ljudi se ubijaju od kada je prvi Homo Sapiens hodao zemljom. Stavise, postoje ne tako neubedljivi indikatori da je nas mozak rapidno narastao upravo zbog eksplozije u ubijanju kada su nasi pretci naucili da koriste toljage i, kasnije, koplja posto je to izazvalo masovnu "trku u naoruzanju" prirode kroz ubrzanu evoluciju.

Sta to znaci?

To znaci da nam je ubijanje u krvi i da ce biti vrlo tesko eliminisati taj "trag" u nasim genima. Dronovi su samo trenutna moda - medjutim princip koji stoji iza njih je daleko stariji i od dronova i od svih nas ovde.

[ Igor Gajic @ 31.05.2013. 10:22 ] @
Niko ne spori da su dronovi alat u rukama generala. Svaka tehnologija do danasnjeg dana je na neki nacin militarizovana.

Ja sam dao samo jedan mali presek danasnjeg stanja dronova u vojsci. I trenutnog nacina upotrebe.

Ono sto zabrinjava jeste sve veca upotreba AI u tim dronovima i mogucnost da ce jednog dana ti dronovi biti totalno samostalni, i da ce sami donositi odluke o ciljevima. Npr. sledeci scenario: jedna demokratska zemlja ode u neki shitistan i tamo lansira svoje bespilotne letelice na solarni pogon, koja moze da leti 24h(sa baterijama) i da patrolira nad odredjenim podrucjem, u jednom trenutku deca se igraju kauboja i indijanaca, ali AI skonta da nose puske i da je to teroristicki trening, AI salje raketu i pobije neduzne civile. Ko je u ovom slucaju kriv ?
[ Braksi @ 31.05.2013. 10:29 ] @
Citat:
Ivan Dimkovic:

Tomahavk rakete su vec poduze u upotrebi i nisam primetio da UN dize veliku frku oko njih.




A, onda je ok.
[ Ivan Dimkovic @ 31.05.2013. 10:42 ] @
Ne, to ne znaci da je "onda OK" vec da je nekakvo zabrinjavanje UN cist bs.

Imali su 20 godina da se "brinu" oko te tehnologije (kao sto rekoh, tomahavk) - ali jok, sada kada neko umetne rec "robot" odjednom postaje razlog za "brigu".

Sve su to besmislice - UN nece zabraniti nikakve dronove iz prostog razloga sto permanentne clanice SBUN zele da imaju te dronove i blokirale bi bilo kakvu meru koja bi mogla da ih spreci da ih razvijaju. UN nije ni u kakvoj poziciji da supersilama nesto nalaze, posto ga te supersile i finansiraju.

--

UN bi trebao da se bavi supresijom gladi i pomaganjem stvaranju uslova odrzive privrede u danas konfliktnim zonama. Te mere ce indirektno daleko vise uticati na smanjenje ubistava u sukobima nego nekakve besmislene price protiv dronova od strane tela koja uopste ni ne mogu da ih zabrane.

Citat:
Igor Gajic
Ono sto zabrinjava jeste sve veca upotreba AI u tim dronovima i mogucnost da ce jednog dana ti dronovi biti totalno samostalni, i da ce sami donositi odluke o ciljevima.


Ovo vec spada u domen debele naucne fantastike.

AI tehnologija je jedva u stanju da vozi automobil u regulisanim uslovima. Rat nije "regulisano" okruzenje i 100% samostalan AI nema nikakve sanse u takvom okruzenju.

Za mogucnost 100% autonomnog odlucivanja o metama sa nekim izgledom da uspeh bude uporediv sa ljudskim bi bio potreban AI koji je drasticno razvijeniji od danasnjeg. Sorry, na AI-ju se radi vec 50+ godina i praktican napredak za tih 50 godina je apsolutno mizeran u odnosu na napredak u drugim, daleko prizemnijim, poljima. Danasnji AI je svakako bolji od AI-ja pre 30-40-50 godina, ali je i dalje fantasticno nesposoban da se nosi sa nejasnim uslovima u "pravom svetu" van strogo kontrolisanih lab. uslova.

FFS, glupom Siri-ju u iPhone-u su potrebni citavi racunski centri u pozadini kako bi mrsavo potrefila sta si rekao sa svim terabajtima kontekstualnih podataka i razlucila da li si hteo picu ili cigare. E sad zamisli da tako nesto pustis u Avganistan da donosi nekakve odluke. Mislim da bi Avganistanci bili jako srecni posto bi to njesra ukebali samo tako sa tehnologijom od pre 100 godina.

Problemi koji su ispreceni izmedju nekakvog 'terminator AI'-ja i onoga sto imamo danas su fundamentalni problemi koji jos nisu reseni niti postoje indicije da ce biti reseni uskoro.

Prema tome, to o cemu se UN "brine" je hipoteticki scenario koji je bar koju deceniju daleko od nas.
[ number42 @ 31.05.2013. 15:04 ] @
@igor gajic,

odlican je film. bas mi je ponestalo kvaltetnog sf-a, pa ako imas jos nesto iz rukava, baci neki link

@ivan dimkovic,

ni ja nisam bas siguran kako su to zamislili prelaz od dronova do autonomnih oruzanih sistema. imam samo neke pretpostavke.

al bas da je sf, to ne verujem. uvek je vojna tehnologija bila ispred one komercijalne, tj one na otvorenom trzistu.
recimo, 1969. je racunar odveo ljude na mesec, a prvi racunari u nesto siroj upotrebi su se pojavili dve decenije kasnije.
ti komercijalni racunari nisu mogli odneti ni nacrtanu raketu na nacrtani mesec. al eto, ajd da uzmemo da je taj gep izmedju tehnologija 20 godina.

sa ubrzanjem razvoja tehnologije koje se danas meri bukvalno svakomesecnim revolucionarnim otkricima, logicno bi bilo da je 2013. gep izmedju vojne i komercijalne (upotrebe) tehnologije mnogo veci nego 1968, kada je bio dve decenije. al eto opet uzmemo da je 2 decenije. dakle ono sto je za nas (trziste) nezamislivo, vrlo je moguce da je u vladinim/vojnim programima izvesno ili ostvareno, a ovde se ako sam dobro shvatio cilja na usa, rusiju, i kinu i tvrdnje da trenutno rade na takvim sistemima.

nego da se vratim na prelaz dronovi-autonomni oruzani sistemi, i moguce opasnosti. kako su taj prelaz uopste zamislili? stvarno ne znam... evo pretpostavke.

ako neautonomne sisteme zamislimo kao ponasanja masine definisano parametrima koji su odredjeni ljudskim inputom, onda zaista, ukoliko su ti parametri nedovoljno precizirani, moze doci do toga da dron proceni da je decja igra kauboja i indijanaca opasna teroristicka pretnja, pa drugi put da je okrsaj dva tima na ragbi utakmici sukob koji se mora suzbiti, itsl.

opet, i dalje se ne radi o autonomnim oruzanim sistemima, iz samo jednog razloga- postoji tamo negde dugme za opoziv.

sta se desava u situaciji kada dron ima neprecizan input, pa svaku "pretnju" eleminise? desava se to da vestacka inteligencija uglavnom ima naredbu da uci iz iskustva, pa te greske povezuje i kombinuje, tako da na kraju "shvata" da ima pretnju u ljudima koji recimo imaju kacigu kao u ragbiju (motociklisti npr), sviraju harfu jer to potseca na luk i strelu, itd, kombinacije se mnoze.

usled tog multipliciranja mogucih pogresnih ishoda drona sa nepreciznim inputom, ako nema nekoga sa druge strane da odmah ukljuci dugme za opoziv, postoji mogucnost da multipliciranje kombinacija mashinu navede na promenu sopstvenih naredbi, od kojih bi neka lako mogla biti- iskljucivanje opcije za opoziv.

e tacno u tom trenutku nastaje autonomni oruzani sistem.

i skynet stvara terminatora
[ Ivan Dimkovic @ 31.05.2013. 15:23 ] @
Citat:
number42
logicno bi bilo da je 2013. gep izmedju vojne i komercijalne (upotrebe) tehnologije mnogo veci nego 1968, kada je bio dve decenije. al eto opet uzmemo da je 2 decenije. dakle ono sto je za nas (trziste) nezamislivo, vrlo je moguce da je u vladinim/vojnim programima izvesno ili ostvareno, a ovde se ako sam dobro shvatio cilja na usa, rusiju, i kinu i tvrdnje da trenutno rade na takvim sistemima.


Imas previse velika ocekivanja od vojne tehnologije.

Gap od dve decenije je potpuno nezamisliv danas zbog visestrukih razloga. AI razvoj danas piggybackuje razvoj generalnog ICT-a koji odavno vise nije u glavnom fokusu vojske posto postoji industrija vredna trilione dolara kojoj isto to treba.

Vojska je vodila razvoj inicijalnih racunara zato sto nikome drugome nisu trebali.

Danas razvoj racunara vodi opsta ekonomija, a ne vojska, razlike u kolicini love su enormne - vojni budzet, jednostavno, ne moze da se poredi za zahtevima kompletne privrede - pricamo o redovima velicine razlike u lovi. Gro privrede je u privatnom biznisu, pa sav drzavni budzet sa sve tajnim "black" budzetima ne moze ni da prismrdi kolicini love koja se obrne u privredi svake godine.

Primera radi - glavna stvar koja doprinosi skokovima je procesna tehnologija, tj. mogucnost trpanja veceg broja tranzistora.

Za 20 godina cemo imati procesne nodove od par nm verovatno sa siroko dostupnom nanotehnologijom - mislis da to bilo koja vojska ima danas?

Nema teorije - zato sto vojska nema te pare koje bi mogle da ubrzaju nesto sto je vec ubrzano do daske komercijalnom industrijom i sto se svake godine razvija koliko je moguce brzo tj. koliko imamo znanja. Razvoj procesnih nodova kosta milijarde i milijarde $ i, jednostavno, traje - sansa da vojska ima nesto sto bi telekomunikaciona, bankarska, zabavna itd... industrija platili da moze je nikakva. Zasto? Zato sto vojska sama po sebi ne moze da isprati nesto sto bi druge industrije isto platile da se razvija. Tu vise nisu samo pare u pitanju vec fizicke mogucnosti istrazivackih resursa.

U pocetku racunara je situacija bila drugacija - zato sto racunari nikome drugome nisu bili potrebni, nije bilo aplikacije - pa samim tim nikoga da kesira osim drzave za svoje vojne potrebe.

U tom okruzenju, dakle 40-tih i 50-tih - je vojska imala prednost, iz prostog razloga sto su samo njoj ti racunari i trebali.

Takodje, AI problem je fundamentalni i puko trpanje tranzistora ne znaci i resenje istog (dokaz: danasnji racunarski resursi su drasticno veci od resursa 70-tih, pa opet nismo puno odmakli u generalnim AI algoritmima. Zasto? Zato sto je u pitanju fundamentalni problem za koji jos nismo nasli resenje pored decenija mozganja). Opet, kolicina eksperata >van< vojske danas je strahovita. Sanse da je vojska resila fundamentalne AI probleme i da to niko u ostatku industrije nije primetio su danas... pa tu negde oko nule.

Cuda nisu moguca, a to bi upravo bilo cudo.

Nije nikakvo cudo bilo 50-tih imati racunar koji je u stanju da proracunava parametre puta na mesec dok niko drugi to nije imao. Kao sto rekoh, to je sasvim logicno uzevsi u obzir stanje industrije i fakat da je samo vojsci tako nesto trebalo u tom momentu.

Danas? Tesko.
[ number42 @ 31.05.2013. 16:02 ] @
aha, pa ok, ne znam konkretan odgovor da li ima ili ne gepa iz prostog razloga jer nemam brojke koliki je vojni budzet recimo usa i crni fondovi, a koliki je prihod silicijumske doline.

al nekako mi logicno da je vojna daleko od komercijalne, jer ne mogu, ono kao otici u ducan i traziti 'ej dajte mi jedno 450 grama stelta, jedno 6-7 malih dronova, i ako nije problem upakujte ove 2 haarp antene za poneti'.

no bez obzira na to, ne znam koliko sam se dobro izrazio u proslom postu- ne mislim da oni imaju vec gotovu ai, nego da bi autnomni oruzani sistemi mogli nastati greskom.
eto uzmi primer iz prethodnog posta, zanemari nepreciznosti i uproscavanje, i to je pitanje: da li je taj scenario moguc, tj kolika je verovatnoca otprilike?

mislim da su na to ciljali sastavljaci izvestaja za un.
[ mr. ako @ 31.05.2013. 17:44 ] @
Ma ne slusajte Dimkovica on razvija svoj AI, nije on ovde pravi sagovornik jer skriva informacije. Mozda radi i za CIA, BIA, Vatikan, Snajku,... ko zna sta SpikeFun radi nocu dok spavamo. :D

Salu na stranu, mislim da je potpuno u pravu i da danasnja vojna tehnologija ne moze da bude ispred komercijalne deceniju ili dve kao '50. recimo, jer su kapaciteti tajnih laboratorija odavno prevazidjeni komercijalnim.

Napor UN-a je u pogresnom smeru. Kao kad bi se protivili upotrebi automatskog oruzja - ti samo stisnes a on posle sam opaljuje i ti nisi kriv. :D
Stoga je problem u pravnom okviru ne tehnoloskom, jer za svakog drona ce biti (jeste) odgovoran neki pojedinac (kao sto je i u slucaju automatske puske) i on ce biti taj koji je dao odobrenje za Launch komandu (ne ispaljivanje rakete, vec samo poletanje ;) ).
[ number42 @ 31.05.2013. 20:04 ] @
Citat:
danasnja vojna tehnologija ne moze da bude ispred komercijalne deceniju ili dve kao '50. recimo


ma, tu sam vam dao popust maksimalno , kakve dve decenije, tek ovih 2010-ih se u kucama nalaze racunari koji bi mogli da odnesu coveka na mesec i natrag (ako ne gresim, to je otprilike ta konfiguracija). to je nekih 50 godina gepa, dakle tek danas u kucama (komercijalno) imamo racunare koje su vlada/vojska koristili pre 50 godina.

ali opet to nema veze s ovim kako su zamislili pretvaranje dronova u autonomno oruzje.

Citat:
Ma ne slusajte Dimkovica on razvija svoj AI


procitao sam malo taj link, al nekako mi ko klingonski. razumeo sam da razvija simulaciju nekih funkcija mozga, i da to guta gomilu hardvera.

nije mi jasna jedna stvar kod svih tih ljudi kad rade sa ai: zasto svi uglavnom imitiraju coveka, zasto ne bi napravili ai amebe recimo? za to su potrebni manji hardverski zahtevi, manje para, vremena, programiranja...

i jos mi nije jasno zasto ne bi napravili simulaciju evoluiranja tog nekog prostog organizma? znaci simuliras prirodnu evoluciju ali ubrzano (a to je prilicno jednostavno, evo i ja znam postupak kako bi to moglo da se odradi).

znaci napises program za ai amebe. to ti uzme nekih 10 hiljada linija koda. onda i program za njenu evoluciju. to je jos 10 hiljada.
i onda nista, samo sednes i gledas sta se desava, i kako evoluira povecavaju se hardverski zahtevi i onda dodajes komponente kako se ai usloznjava. znaci posle nedelju dana imas recimo ai dvodihalice, posle dve nedelje ai neke krtice... uglavnom je kompleksnost ai ogranicena samo velicinom ambara u koji si smestio racunar i kolicinom novca koju imas za kupovinu hardvera.

[ milivoje t @ 01.06.2013. 09:25 ] @
Citat:
number42:
znaci napises program za ai amebe. to ti uzme nekih 10 hiljada linija koda. onda i program za njenu evoluciju. to je jos 10 hiljada.
i onda nista, samo sednes i gledas sta se desava, i kako evoluira povecavaju se hardverski zahtevi i onda dodajes komponente kako se ai usloznjava. znaci posle nedelju dana imas recimo ai dvodihalice, posle dve nedelje ai neke krtice... uglavnom je kompleksnost ai ogranicena samo velicinom ambara u koji si smestio racunar i kolicinom novca koju imas za kupovinu hardvera.

:)

nije tako prosto.
za pocetak, evolucija ne postoji na nivou jedne amebe. evolucija je proces koji se desava na nivou populacija i okruzenja...
[ bojan_bozovic @ 01.06.2013. 09:36 ] @
Citat:
milivoje t: :)

nije tako prosto.
za pocetak, evolucija ne postoji na nivou jedne amebe. evolucija je proces koji se desava na nivou populacija i okruzenja...


Ako ćemo terati mak na konac evolucija je ono što nazovemo evolucijom, tj. zavisi kako je definišemo. Ako za kompjuterski virus ili nešto slično, nije bitno okruženje i populacija, a promeni se, to možemo takođe nazvati evolucijom, iako to biolioški nije (baš kao što kompjuterski virus nije biološki entitet). Upotrebljavamo je u figurativnom značenju, kao promenu u smislu usavršavanja.
[ number42 @ 01.06.2013. 12:31 ] @
@ivan dimkovic,

evo sad sam se setio da ne mora biti kako sam objasnio u primeru gore za pretvaranje dronova u autonomne oruzane mehanizme. ako je razlika samo naredba za opoziv, onda bi svaki general koji na dronu napravi tajmer da se sama mogucnost naredbe za opoziv izbrise iz programa nakon recimo 2 dana, napravila autonomni oruzani mehanizam (kada se izbrise nakon 2 dana).

a ova tehnologija je bila poznata jos pre dvadeset godina, minimum (od kada su poceli da se koriste dronovi). samo im je trebalo postaviti tajmer za brisanje naredbe za opoziv, i postaju autonomni oruzani mehanizmi.

bojan_bozovic,

upravo tako, samo je potrebno izabrati definiciju koja odgovara za ai.

@milivoje t,

slazem se da je evolucija kompleksna. zato bi trebalo uzeti najprostiji slucaj, tacnije izvuci esenciju evolucije i primeniti je na ai.
ne znam kako bi se to racunarski moglo izvesti, ali evo opisno kako bi moglo recimo da se upotrebi najprostija evolucija najprostijeg ai:

-imitacija evolucije zivota
-princip minimalizma
-princip maksimalnih efekata
-dva najprostija ai-ja
-odrediti kriterijume kombinovanja ai-ja
-odrediti kriterijume funkcionalnosti kombinovanih ai-ja
-zadrzavanje osobina ai-ja kod kombinovanih entiteta

1.uzmes dve ai amebe, ili jos prostije ai.
2.princip kombinovanja je najmanji utrosak energije
3.princip funkcionalnosti je kopiran iz evolucije zivota
4.funkcionalni su oni entiteti koji prezive
5.ako se kobinovanje ai-ja odigrava u milionitom delu sekunde- oni prezivljavaju
6.ostali entiteti nestaju kao ai iz programa
7.opstaju samo najjaci, tj oni ai-i koji se kombinuju najbrze i s najmanjim utroskom energije
8.opstaju i samo najjaca kombinovanja, jer se kombinovanje gde entiteti nestaju vise ne koristi
9.i doda se princip da se iskobinovani entiteti (recimo dobijes 1000)sjedinjuju u svega nekoliko
10. ti uvecani ai-i se dalje nastavljaju kombinovati po istim principima i evoluirati

tako da ne verujem da je ovo jako komplikovano odraditi programerski na racunaru.

[ Ivan Dimkovic @ 02.06.2013. 19:50 ] @
Citat:
number42
no bez obzira na to, ne znam koliko sam se dobro izrazio u proslom postu- ne mislim da oni imaju vec gotovu ai, nego da bi autnomni oruzani sistemi mogli nastati greskom.


Nisam bas siguran da je to realan scenario.

Za pocetak, svaki hardver ima kill-switch - znaci, okreni-obrni sta god da se desi, uvek mozes da resetujes cudo pritiskom na "inzenjersko dugme".

Cak i da zanemarimo kill-switch, niko do sad ne pravi sistem koji je 100% autonoman.

To znaci da bilo koji sistem, na kraju krajeva, zavisi od izvora energije koji su pod kontrolom ljudi.

Da bi doslo do nekog Skynet scenarija ljudi bi morali prvo da pocnu da prave 100% autonomne sisteme. A tu, kao sto rekoh, postoje fundamentalni problemi koji su daleko od resenih - 100% autonomni sistem bi danas jako brzo zavrsio u nekoj rupi kada bi ga pustio da potpuno autonomno ide po neprijateljskom terenu.

Citat:

slazem se da je evolucija kompleksna. zato bi trebalo uzeti najprostiji slucaj, tacnije izvuci esenciju evolucije i primeniti je na ai.
ne znam kako bi se to racunarski moglo izvesti, ali evo opisno kako bi moglo recimo da se upotrebi najprostija evolucija najprostijeg ai:

-imitacija evolucije zivota


Imitacija evolucije zivota je "brute force" pristup. Kao takav je atraktivan zato sto je moguce zamisliti da je polazno stanje sistema daleko prostije od danasnjeg i da je broj pravila koja upravljaju evolucijom sistema ogranicen.

Problem nastaje cim se uzme u obzir vreme koje je bilo potrebno prirodi da dodje do necega upotrebljivog. Pricamo o milijardama godina na paralelnoj platformi zvanoj "univrzum" gde se svaka cestica moze posmatrati kao mikro proces.

Cak i nekim teskim aproksimacijama recimo na nivo molekula i dalje pricamo o enormnom problemu za danasnje pojmove.

Zbog toga danas mahom koristimo razne fenomenoloske modele bioloskih sistema. Moguce je i tu, naravno, primeniti genetske algoritme i omoguciti selekciju, ali je kompleksnost sistema znacajno manja.

Esencija evolucije je, zapravo, jednostavna i moze se primeniti na razlicite nivoe apstrakcije prirodnih sistema, ili kompletno vestacke sisteme koji nemaju veze ni sa cim u prirodi. Medjutim, nase racunarske mogucnosti danas su, jednostavno, i dalje previse slabe da bi mogle da simuliraju nastanak stvari koje su nastale u prirodi.

Citat:

nije mi jasna jedna stvar kod svih tih ljudi kad rade sa ai: zasto svi uglavnom imitiraju coveka, zasto ne bi napravili ai amebe recimo? za to su potrebni manji hardverski zahtevi, manje para, vremena, programiranja...


Pa i da i ne - trenutni pristupi simulacije bioloskih neuronskih kola se baziraju na fenomenoloskim modelima neurona, gde se neuron predstavlja kao skup diferencijalnih jednacina.

Simulacija amebe bi verovatno zahtevala fenomenoloske modele koji bi simulirali sastavne delove amebine celije - mozda cak i individualne molekule.

Znaci sama kompleksnost (racunarska) ne bi nuzno bila znacajno manja posto bi "rezolucija" simulacije bila veca.

Problemi simuliranja jedne amebe nisu uopste mali - kod neurona postoji neko razumno ocekivanje (koje mozda nije ispravno!) da je moguce apstrakovati neke stvari sve dok se grupe neurona (cak mozda i hiljade neurona) ponasaju kao u prirodi. Ako hoces da simuliras jednu amebu, ne mozes imati takvu pretpostavku na nivou celije vec eventualno na nivou grupe molekula.
[ number42 @ 02.06.2013. 21:58 ] @
Citat:
bilo koji sistem, na kraju krajeva, zavisi od izvora energije koji su pod kontrolom ljudi.

100% autonomni sistem bi danas jako brzo zavrsio u nekoj rupi kada bi ga pustio da potpuno autonomno ide po neprijateljskom terenu.


zasto? stvarno ne vidim nijedan razlog zasto bi dron, bez kill switcha, na nuklearni pogon, pao.


Citat:
Problem nastaje cim se uzme u obzir vreme koje je bilo potrebno prirodi da dodje do necega upotrebljivog.


apsolutno.

mislim da se to vreme moze znacajno smanjiti ako se kao kriterijum evoluiranja uzme i vreme potrebno za kombinovanje, tako da bi prakticno dobijali sve manje vreme izmedju dva evoluciona pomaka (kao evolutivnu prednost najjacih).

za nesto upotrebljivo... naravno da ne bi isli imitacijom prirode, ono sam ironicno rekao za rovcicu i krticu i sl. , ali ne vidim razlog da kriterijum upotrebljivosti, funkcionalnosti, ne postavi sam programer, zaobilazeci prirodu. eto gore sam predlozio kriterijum najmanje potrosnje energije, al verovatno postoje pametniji predlozi.

a sve u svrhu nastajanja necega upotrebljivog kroz ubrzavajucu vestacku evoluciju jako prostog ai-ja.
a kako je polazni entitet ai, onda je za ocekivati da ce i rezultirajuci, evoluirani program- biti ai.


Citat:
Problemi simuliranja jedne amebe nisu uopste mali


ne znam da li bi se covek koji je ovo napravio slozio s time

Rodney Brooks insect robot @ The MIT Museum

http://www.flickr.com/photos/toasty/3583379513/in/photostream/
[ Ivan Dimkovic @ 02.06.2013. 22:28 ] @
Citat:
number42
zasto? stvarno ne vidim nijedan razlog zasto bi dron, bez kill switcha, na nuklearni pogon, pao.


Iz jednog jednostavnog razloga - u ovom momentu ne postoji puno razloga zasto bi neko dizajnirao autonomnog drona da radi na nuklearni pogon.

Takav dron bi, zapravo, bio mnogo veci rizik za samu zemlju iz koje potice. Zasto? Zato sto bi neprijatelju omogucio lako dolazenje do nuklearnog materijala. Jedini mobilni objekti na zemlji koji koriste nuklearni pogon su podmornice - zato sto tu nuklearni pogon ima smisla (autonomnost od vise meseci je zgodna stvar, je li) + kidnapovati podmornicu nije bas izvodljivo.

Autonomni leteci dron, recimo, je sasvim druga prica - prvo, lakse ga je onesposobiti i dokopati se nuklearnog goriva.

Drugo, leteci nuklearni objekat bi gotovo sasvim sigurno predstavljao prilicno nepozeljnu stvar politicki jer predstavlja vruc politicki kapital za sve stranke levo od centra. Davati nekome takvu politicku municiju zarad vrlo mrsavih strateskih dobitaka i velikih rizika nema puno smisla.

Trece, potencijalni problemi autonomnog nuklearnog objekta su enormni - softverske greske bi mogle da dovedu do radioaktivne kontaminacije ako bi dron pao, sto je jos grdji politicki problem.

Sve u svemu - sumnjam da ce autonomni objekti sa nuklearnim pogonom (sa izuzetkom svemirskog programa) biti realnost u skorijoj buducnosti.

Citat:

ne znam da li bi se covek koji je ovo napravio slozio s time


Pa verujem da bi - Rodney-ovi roboti ne simuliraju evoluciju zivog sistema vec predstavljaju grubu aproksimaciju nervnih sistema (tj. senzo-motorne petlje), dakle fenomenoloske modele ciji je cilj da repliciraju osobine koje smo mi definisali i koje su korisne za nas.

U njih je ubacen skup jednostavnih evolutivnih pravila - i ti sistemi su u stanju da sami naprave svoju reprezentaciju sveta oko sebe bez programiranja "spolja"

Bez sumnje - to je impresivan uspeh! Ali, u isto vreme, to je prilicno daleko od modela amebe ili pravih nervnih sistema.

Grubo receno, to bi bilo kao da amebu simuliras sa nekoliko stotina jednacina. Na kraju uspes da tu, simuliranu amebu, nateras da se "krece"... hmm.. ameboidno, da juri svetlo i da izbegava neke agense - ali taj sistem nema puno veze sa pravom amebom i evolutivnim sistemom koji tu amebu cini zivim bicem.

Taj tvoj sistem moze da uci - ali mozes biti siguran da taj sistem nece evoluirati u neki drugi organizam. Evolucija kod prave amebe funkcionise daleko suptilnije i na daleko "nizem" nivou.

Za takvu stvar ce ti biti potreban sasvim drugi nivo detalja - i to je upravo ono o cemu pricam, za taj nivo detalja su potrebni resursi koji se mere velicinama koje su danas i dalje nezamislivi.
[ number42 @ 03.06.2013. 00:10 ] @
Citat:
Sve u svemu - sumnjam da ce autonomni objekti sa nuklearnim pogonom (sa izuzetkom svemirskog programa) biti realnost u skorijoj buducnosti.


pa to kazem, teoretski su moguci. danas.

Citat:
Rodney-ovi roboti predstavljaju modele ciji je cilj da repliciraju osobine koje smo mi definisali i koje su korisne za nas.
Bez sumnje - to je impresivan uspeh!


that's my point. citao sam ponesto od njegovog rada od osamdesetih do danas, i sta reci... prosto i genijalno.
[ milivoje t @ 03.06.2013. 00:45 ] @
Citat:
number42:
@milivoje t,

slazem se da je evolucija kompleksna. zato bi trebalo uzeti najprostiji slucaj, tacnije izvuci esenciju evolucije i primeniti je na ai.
ne znam kako bi se to racunarski moglo izvesti, ali evo opisno kako bi moglo recimo da se upotrebi najprostija evolucija najprostijeg ai:

-imitacija evolucije zivota
-princip minimalizma
-princip maksimalnih efekata
-dva najprostija ai-ja
-odrediti kriterijume kombinovanja ai-ja
-odrediti kriterijume funkcionalnosti kombinovanih ai-ja
-zadrzavanje osobina ai-ja kod kombinovanih entiteta

1.uzmes dve ai amebe, ili jos prostije ai.
2.princip kombinovanja je najmanji utrosak energije
3.princip funkcionalnosti je kopiran iz evolucije zivota
4.funkcionalni su oni entiteti koji prezive
5.ako se kobinovanje ai-ja odigrava u milionitom delu sekunde- oni prezivljavaju
6.ostali entiteti nestaju kao ai iz programa
7.opstaju samo najjaci, tj oni ai-i koji se kombinuju najbrze i s najmanjim utroskom energije
8.opstaju i samo najjaca kombinovanja, jer se kombinovanje gde entiteti nestaju vise ne koristi
9.i doda se princip da se iskobinovani entiteti (recimo dobijes 1000)sjedinjuju u svega nekoliko
10. ti uvecani ai-i se dalje nastavljaju kombinovati po istim principima i evoluirati

tako da ne verujem da je ovo jako komplikovano odraditi programerski na racunaru.


da bi pricao i bavio se vestackom simulacijom nekog prirodnog procesa, moras prvo dobro izuciti prirodni proces.

kada to uradis, videces da tvoje polazne pretpostavke veze nemaju sa procesom koji zelis da simuliras.
ovo sto si napisao zvuci interesantno, ali kao neki spisak za scenario sf filma ili sf romana.

evolucija nije kombinovanje dve amebe. jedinica evolucije nije jedinka, vec populacija. evolucija ne opisuje nastanak zivota, vec promenu naslednih osobina populacije.
evolucija barata pojmovima kao sto su populacija, adaptacija, prirodna selekcija, specijacija, drift, varijacija, mutacije, tipovi razmnozavanja...

evolucija zavisi od interakcije sa drugim populacijama, iste i razlicitih vrsta, zavisi od okruzenja. prost primer dzinovski gmizavci su bili dominantna vrsta kopnenih zivotinja, a onda ih je promena uslova zivota izbrisala i favorizovala marginalnu grupu zivotinja pod imenom sisari.

makroskopska teorija evolucije je nastala u vreme kada se nije znalo gotovo nista o molekularnoj strukturi zivota.
molekularna teorija evolucije se zasniva na mutacijama dnk-a, ali svi mehanizmi i nacini molekularne evolucije jos uvek nisu poznati.

ja sam ti samo nabacio neke teme, a tebe ako interesuje izuci proces koji zelis da simuliras.

simulacija mreze neurona, je "samo" simulacija njihove elektrofizioloske funkcije koja je matematicki izmodelovana.
ti zelis da simuliras populacije zivih organizama na nivou strukture i funkcije svake jedinke, za tako nesto ne postoje sveobuhvatni matematicki modeli.
[ bojan_bozovic @ 03.06.2013. 00:53 ] @
Ono na šta mislite je samoreplicirajuća mašina (poput Sejberhagenovog Berserkera)! To je međutim neizvodivo zasad, napraviti mašinu koja će biti autonomna, samoreplicirajuća, i sposobna za borbu i usavršavanje. Dok se to ne postigne, potpuno smo bezbedni.

[ bojan_bozovic @ 03.06.2013. 01:02 ] @
Citat:
milivoje t:
...


Dovoljno bi bilo da se Berserker replicira u savršeniju formu, otpornu na spoljni stimulus. Nikakva simulacija nije potrebna, ako mašina razume čime je napadnuta i na kakav način se može odbraniti. Životinja u prirodi, međutim, pojma nema kako sama sebe da usavrši, i zato evolucija radi kako radi. Naravno, to je čist science fiction, ali o tome je već pisano...
[ number42 @ 03.06.2013. 01:10 ] @
@bojan_bozoviz,

samo sam se nadovezao na drugu temu u razmeni misljenja, sorry ako je ispalo izmiksano


@milivoje t,

Citat:
da bi pricao i bavio se vestackom simulacijom nekog prirodnog procesa, moras prvo dobro izuciti prirodni proces.


da, naravno, o evoluciji- radi se o neverovatno kompleksnom procesu.
ali ako ako nas zanima samo par karakteristika, sve je mnogo prostije.
[ Ivan Dimkovic @ 03.06.2013. 12:56 ] @
Pa da, ali sa modeliranjem "par karakteristika" sasvim sigurno neces dobiti slicne rezultate.

Postoji citava grana informatike koja se bavi algoritmima inspirisanim evolutivnim procesima (genetski algoritmi) - ti algoritmi su upravo bazirani na osnovnim karakteristikama evolucije. Medjutim, osim striktno domenskih uspeha u optimizacijama i sl... ta grana je prilicno daleko od oponasanja zivih organizama.

Prirodi je trebao desetocifreni broj godina da stvori kompleksan zivot, sa sve resursima koje su prirodi na raspolaganju.
[ number42 @ 03.06.2013. 23:44 ] @
Dron i putnički avion se mimoišli za dva metra

Snimak koji datira otprije devet godina i sve ovo vrijeme nosio je oznaku "povjerljivo" danas je postao dostupan na YouTubeu. Na njemu je prikazano kako njemačka bespilotna letjelica, popularni dron, zamalo udari u putnički avion sa 100 putnika.


Snimak je objavljen u vrijeme kad se u Njemačkoj vode rasprave o programu izrade nove generacije dronova koji je tu zemlju već koštao 500 miliona eura.

https://www.youtube.com/watch?v=cOBVrkbV7c8&feature

Objavljeno u 3. 06. 2013.

Classified footage of an out-of-control drone narrowly missing an Afghan passenger plane carrying 100 people has caused outrage in Germany.

The video, filmed from on board the unmanned German Luna drone as it flew over Afghanistan, shows it missing the plane by about two metres.

It has caused fury in Germany as debate rages about the Government's new order of drones.

Last week German Defence Minister Thomas de Maiziere said Luna's successor would not be fitted with anti-collision technology because it is too expensive.
Critics have seized on the dramatic footage taken nine years ago as proof of the dangers of unmanned drones and called for de Maiziere to reconsider.

They say larger drones should be fitted with the technology as it could cause more damage if it crashed.

Since then the footage has gained widespread attention, despite being nine years old.

The 88lb German 'Luna' drone was caught in air turbulence created by the Ariana passenger plane, before losing control and crash landing near the Afghan capital, Kabul.

The video shows the plane in the distance before it swiftly moves into shot.

The drone passes under the left wing of the engine.


Njemački ministar odbrane Thomas de Maiziere rekao je prošle sedmice da nasljednici drona Luna neće imati tehnologiju za izbjegavanje sudara jer je ona preskupa. Kritičari su se stoga domogli ovog snimka kao dokaza kako dronovi predstavljaju opasnost za avione.

Trup putničkog aviona Airbus u ovom slučaju mimoišao se sa njemačkim dronom na udaljenosti od samo dva metra.


http://www.klix.ba/scitech/teh...imoisli-za-dva-metra/130603149





[ Ivan Dimkovic @ 05.06.2013. 21:07 ] @
U zemljama kao sto je DE, jedan incident toga tipa (da dron zvekne civilni avion) je dovoljan da ubije ceo program.

Nemci su zbog iracionalnog straha naroda ubili nuklearnu energiju - sto ce ih kasnije kostati jako puno, ali samo pokazuje koliko moze biti vruc krompir politicki pritisak kada siroke mase pocnu da histerisu.

U zemljama kao sto je USA ili Kina se to teze moze desiti, u USA zato sto je beskonacnim spinovanjem i paralizom politickog sistema zapravo nemoguce zabraniti nesto efektivno a u Kini, iz vec jasnih razloga.

To znaci da ce se bespilotni dronovi svakako nastaviti da usavrsavaju - tehnologija za izbegavanje civilne avijacije je svakako nesto sto ce biti dodato, bez obzira na to sto trenutno Nemci to ne zele da kesiraju - ima ko ce.

Opet, to je toliko daleko od nekakvog AI-ja sposobnog za autonomno odlucivanje za biranje meta da je greska uopste stavljati te stvari u isti kontekst.
[ Igor Gajic @ 05.06.2013. 21:33 ] @
Malo je offtopic, ali:

Citat:

Nemci su zbog iracionalnog straha naroda ubili nuklearnu energiju - sto ce ih kasnije kostati jako puno, ali samo pokazuje koliko moze biti vruc krompir politicki pritisak kada siroke mase pocnu da histerisu.


Rusi su posle havarije u Cernobilju izracunali da ih je ciscenje kostalo vise nego ekonomska dobit od svih ostalih nuklearki koje su radile dotad dobranih 25 godina...

Ontopic... Rusi u sklopu modernizacije oruzanih snaga sve vecu paznju posvecuju dronovima Link 1 Link 2

Kinezi
Kinezi 2

Buducnost:
Navy considers 3D-printing future fleets of drones

Russia to Build Military Robots Lab


Roboti su novi trend u ubijanju.


EDIT:

@number42
Citat:

odlican je film. bas mi je ponestalo kvaltetnog sf-a, pa ako imas jos nesto iz rukava, baci neki link


Sad se setih dobrog filma:

Screamers

SF, roboti, ubistva, genocid...

postoji, dosta bledji, nastavak:
Screamers 2

[Ovu poruku je menjao Igor Gajic dana 05.06.2013. u 22:46 GMT+1]
[ number42 @ 06.06.2013. 01:39 ] @
Citat:
Opet, to je toliko daleko od nekakvog AI-ja sposobnog za autonomno odlucivanje za biranje meta da je greska uopste stavljati te stvari u isti kontekst.


moguce zaista da su un reagovale formalno, uvek je tu neka prica o parama, tu ne mozes pogresiti, ili neko nekoga zakinuo, ili neko zeli vise da zaradi, isl, pa onda formalno idu preko ovih organizacija.

al opet to ne znaci da su im i argumenti pogresni.
ne znam da li si primetio, ali zadnjih dana je bas nekako ova prica o dronovima u raznim zemljama pojacana u medijima.

evo sta hrw kaze za dronove i ai:

"Human Rights Watch has criticized fully autonomous weapons, or "killer robots," which would be able to select and engage targets without human intervention, and called for the preemptive prohibition on such weapons.

“Fully autonomous weapons do not exist yet, but they are being developed by several countries and precursors to fully autonomous weapons have already been deployed by high-tech militaries".

ako danas imamo upravljane dronove koji bombarduju, ne krivce, nego samo osumnjicene, a to je naravno krsenje nacionalnih i medjunarodnog prava tj pretpostavke nevinosti- onda sta ocekivati od nekog buduceg ai-drona?

Citat:
Screamers


gledao. mada vise je horor nego sf, ali spada u ovu temu sigurno. odlican je filip k. dik, al cini mi se da u sf-u briljira.
al ne znam, u zadnje vreme je jedno 90 posto sf-a koji pogledam je neki sh kvalitet, izuzetak je onaj 'atlas cloud' od onih sto su pravili 'matriks'. bukvalno film moras da pogledas jedno 3-4 puta da bi ukapirao. tu je kao neka reinkarnacija i karma, 5-6 prica koje idu naizmenicno sa istim glumcima, ali je tom henks rasturio. bolji je nego u 'forest gampu'. nisu sve price u filmu sf, ali ova jedna koja se desava u nju seulu je tehnicki napravljena, ama, bas sjajno.
gradski saobracaj su malo maznuli iz 'petog elementa' ali nema veze, odlicno je odradjen, a verovatno je izvesno da nas to i ceka.
Budućnost pripada letećem vozilu TF-X
preporuka svakako!

Citat:
Navy considers 3D-printing future fleets of drones


ne mogu da verujem, ali ladno. eto laganog nacina za ai-robote da jednog dana izradjuju druge ai-robote.

Citat:
Kinezi


ne znam da li si primetio, ali rusi uporno ponavljaju kako su daleko od drugih zemalja, i kako nece zavrsiti do 2040. svoj program dronova, itd. ali uporni su u tome da se omalovazavaju.
i onda bacis pogled na uav-program kineza, i lepo kazu da su poceli 2009, a zavrsavaju danas. to je nepunih 4 godine. ne znam zasto rusi uporno govore da su u zaostatku i da nece zavrsiti jos 30 godina.

sve ukupno kada se pogleda, nesto se tu debelo muti u svetu u vezi dronova ovih dana.
[ number42 @ 06.06.2013. 21:15 ] @
EXCLUSIVE: CIA didn't always know who it was killing in drone strikes, classified documents show

By Richard Engel and Robert Windrem - NBC News
6/5/13


nastavljaju se vesti o dronovima... ovo je vest od juce na nbc-ju.
bas me zanima kuda ovo sve vodi.