Taistelurobottien käyttö sodassa – sisältyykö niiden käyttöön eettisiä ongelmia?

vlad

Respected Leader
Aihe nousi esille tänään niin YLE:n kuin myös HS:n uutisten myötä, joten otetaan nostetaan asia palstalla pöydälle.

YLE:n uutinen: http://yle.fi/uutiset/jarjesto_varo...hka_saataisi_ketaan_vastuuseen__video/7918148

HS:n uutinen: http://www.hs.fi/ulkomaat/a1305945141286

Uutisten otsikoissa kirjoitetaan raflaavasti ”tappajaroboteista” mutta kieltäydyn käyttämästä kyseistä termiä tässä viestissä sen osoittelevuuden tähden.

YK:n tulisi kieltää automaattisesti toimivat itsenäiset asejärjestelmät ja niiden kehittäminen välittömästi, todetaan Harvardin yliopiston ja ihmisoikeusjärjestö Human Rights Watchin raportissa.

Tuore raportti vaatii, että tappajaroboteiksi kutsutut itsenäisesti operoivat aseet tulisi kieltää YK:n kansainvälisellä sopimuksella, kertoo The Guardian.

Raporttia varten laaditun tutkimuksen mukaan voimassa oleva lainsäädäntö on sellainen, että täysin automaattisten asejärjestelmien aiheuttamista kuolemista ei saataisi vastuuseen ohjelmoijia, laitteiden valmistajia sen enempää kuin armeijoiden komentajiakaan. Vastuun selvästi määrittelevää lakia ei ole tutkijoiden mukaan nähtävissä myöskään tulevaisuudessa.” (lainaus: Helsingin Sanomat).

Jos asiaa tarkastellaan tältä pohjalta, niin tietty siihen sisältyy olemassa oleva riski, että taistelurobotti tekee itsenäisen päätöksen ja toiminnallaan aiheuttaa huomattavia siviilihenkilöiden tappioita eikä teosta saataisi ketään vastuuseen. Mutta kysymys kuuluu, että onko riski niin suuri, että sen tähden taistelurobottien ts. automaattisesti toimivien itsenäisten asejärjestelmien kehittäminen ja käyttäminen tulisi kieltää kansainvälisesti?

Armeijat, puolustusvoimat ja valtioiden hallitukset ovat puolustaneet nykyisiä etäohjattuja lennokkeja vetoamalla siihen, että toisessa päässä päätöksen esimerkiksi ohjusten laukaisusta tekee aina ihminen.

Nopea teknologinen kehitys on viemässä järjestelmiä kuitenkin jo kohti toista vaihetta, missä aseet voisivat valita kohteensa itsenäisesti. Se on saanut niin tiedemiesten kuin ihmisoikeusjärjestöjen hälytyskellot soimaan.

"Täysin automaattisia aseita ei vielä ole, mutta tekniikka on menossa siihen suuntaan, ja esiasteita nähdään jo käytössä tai kehittelyssä. Monet maat käyttävät esimerkiksi puolustusjärjestelmiä, jotka on ohjelmoitu vastaamaan automaattisesti lähestyviin ammuksiin ja muihin sotatarvikkeisiin", raportissa todetaan.” (lainaus: HS).

Nykyisin käytössä olevissa järjestelmissä ihminen tekee aina päätöksen tulen avaamisesta, joskin kuten tiedämme, siviiliuhreilta ei voida välttyä – niitä tulee aivan samalla tapaa kuin perinteisemmässäkin sodankäynnissä. Ei voida sotia ilman uhreja!

Mutta ovatko nämä ihmisuhrit hyväksyttävissä tapauksessa, jossa täysin automaattinen asejärjestelmä (tulevaisuudessa) tekee päätöksen tulittaa kohdetta ja siinä sivussa tulee suuri joukko siviiliuhreja vai olisiko asejärjestelmien kielto perusteltavissa? Ja toisaalta onko siinä loppujen lopuksi suurta eroa tekeekö sen päätöksen lopulta ihminen vai automaattinen asejärjestelmä? Mitä suurimmalla todennäköisyydellä kummassakin tapauksessa kohde tuhotaan (sivullisista uhreista välittämättä) jos se on tarkoituksenmukaista, mutta onko olemassa niin suuri riski, että automatisoidut järjestelmät tulittavat kohteita myös niissä tapauksissa joissa sitä pidettäisi epätarkoituksenmukaisena? Sanoisin, että riski on olemassa oleva mutta onko se hyväksyttävissä oleva riski? (Oma yleinen kantani myöhemmin).

Minun on hyvin vaikea nähdä, että tässä kohdin on mahdollista enää ottaa taka-askeleita – aivan liian monella merkittävällä sotilasvallalla on meneillään projekteja ja suunnitelmia eriasteisten automatisoitujen tai puoliautomatisoitujen järjestelmien luomiseksi nykyisten oheen ja tilalle, joten epäilen suuresti, että nämä valtiot olisivat valmiita ottamaan taka-askeleita ja jäädyttämään tilanteen. Ja jos yksikin merkittävä asemahti päättää jatkaa kehittelytyötä on vaikea kuvitella, että muut eivät seuraisi perässä jos teknologinen kyvykkyys siihen riittää. Vaakakupissa kun on myös se omien sotilaiden suojeleminen ja omien tappioiden minimoiminen ja teknologian avulla tappioita on mahdollista minimoida entisestään.

Ja vielä siitä eettisestä ongelmasta:

Jos rikoksista ei rangaistaisi, ei myöskään olisi pelotetta tulevia rikoksia vastaan, Human Rights Watch sanoo.” (lainaus: yle.fi)

Konetta ei tietenkään voi rangaista, mutta onko oikeutettua ulottaa rangaistusta ohjelmoijaan, suunnittelijaan tai operaation komentajaan jos taistelurobotti tekee automaattisen päätöksen tulittaa kohdetta ja syntyy huomattavia siviiliuhreja? Ja jos ketään ei voi rangaista on inhimillistä, että ”sivulliset uhrit” laitettaisi tietyissä tapauksissa taistelurobotin häiriön tai tietokoneohjelman bugin tms. piikkiin – niin se vaan menee. Minä en kuitenkaan lähtisi ulottamaan rangaistuksia em. tahoihin, en missään tapauksissa.

Oma kantani näihin taistelurobotteihin (eli automaattisiin asejärjestelmiin) on myönteinen ja tarkastelen asiaa kylmän viileästi siltä näkökantilta, että omien tappioiden minimoiminen on tärkeää ja jos erilaisin asejärjestelmin tämä on mahdollista, tuolloin on järkevää pyrkiä varustamaan asevoimat/puolustusvoimat myös tällaisilla asejärjestelmillä – ne eivät välttämättä voi (vielä) olla hallitsevassa roolissa mutta ne täydentävät kokonaisuutta. Tietenkin on mietittävä mahdollisia seuraamuksia ja mitä ongelmia voi seurata jos ”koneille antaa liikaa valtaa” eli sillä ihmiselläkin on oltava oma sijansa ja asemansa mutta eettisten syiden tähden en lähtisi rajoittamaan näiden kehittelyä tai niiden hankkimista.

Jatketaan keskustelua.

vlad.
 
Ne, kenellä on varaa hankkia sotarobotteja, heidän ei tarvitse myöskään Haagissa vastata mahdollisesta etiikasta tai moraalista, rikoksista puhumattakaan. Kunhan pitävät huolen siitä, etteivät häviä sotaa kovin pahasti.
 
Jollakin tapaa nykyinen lennokkien käyttö terroristien listimiseen alkaa lähennellä tuota touhua. Pitääkin tässä katsoa elokuva nimeltä Good Kill, joka koskettaa asiaa.
 
Jollakin tapaa nykyinen lennokkien käyttö terroristien listimiseen alkaa lähennellä tuota touhua. Pitääkin tässä katsoa elokuva nimeltä Good Kill, joka koskettaa asiaa.

Sitä ei käy kiistäminen etteikö nykyinen tapa käyttää lennokkeja terroristien tuhoamiseen muistuta hyvin pitkälti tulevaisuuden automatisoitujen taistelurobottien toimintaa, lennokkeja operoidaan toiselta puolelta maapalloa ja hyvin monessa tapauksessa tilanne kohteessa on se, että tiedustelutiedot eivät välttämättä pidä paikkaansa tai jos pitävätkin niin paikalla on huomattava joukko muitakin henkilöitä (syystä tai toisesta) ja iskun seuraus on sitten se, että saamme lukea lehdestä/netistä jenkkien tappaneen tusinan naista ja lasta terroristien ohella. Ja yleensä tilanne on se, että käytännössä kukaan ei joudu vastuuseen teosta eli eroa siihen, että automatisoitu kone tekisi itsenäisesti päätöksen ei juurikaan ole - vaikka toki nyt asevoimien taholla asiaa puolustellaan sillä, että viimekädessä ihminen päättää laukaistaanko ohjukset vaiko ei. Moraalinen paheksunta on tietty oma asiansa mutta en näe, että se kovinkaan suuresti vaikuttaa näiden ohjusten laukaisuista vastaavien operaattoreiden toimintaan - tai jos vaikuttaa niin uusia on aina jonossa odottamassa pestiä.

Jostain syystä en kuitenkaan osaa nähdä toimintaa kauhean moraalittomana - toisinaan ehkäpä raukkamaisena, mutta kukapa nyt ei tappaisi vihollista siten ettei oma henki vaarannu jos se suinkin on mahdollista. Etäisyys on vaan lennokki-iskuissa olennaisesti toinen (joten mitään hereoistista en toiminnassa näe).

Ja ehkäpä nyt ollaan liian myöhään liikkeellä, HRW:n olisi tullut olla aktiivisempi jo vuosia sitten jolloin lennokkeja ryhdyttiin aktiivisemmin käyttämään terroristeja vastaan ja käyttämään niitä tiedustelun ohella myös ohjus-iskuihin oletettuja viholliskohteita vastaan. Sanoisin, että nyt kehittely alkaa olla siinä vauhdissa useammalla maalla - etenkin suurvallalla - ettei ole toivoakaan, että pandoran lipas saataisi enää suljettua. Ja kun mukaan on tullut tai tulossa suuri joukko muitakin maita niin enpä usko, että HRW:n toive saa ilmaa siipiensä alle.

vlad.
 
Meille nämä ovat vain hyvä asia, voidaan vaikka pultata kaikki sergeit ja mustit kiinni robotteihin niin ei ole enään kamikaze touhua. :D
 
Tässä on nyt unohdettu yksi paljon tärkeämpi asia:
Toistaiseksi ihminen on siis ollut se, joka kontrolloi robottia. Näköpiirissä on robotti, jota ihminen ei kontrolloi vaan joka tappaa vihollisia oman harkintansa mukaan. Silloin se ei ole enää ihmisen kontrollissa. Silloin Terminator-elokuvien Tuomiopäivä on saapunut. Kun tämä raja on ylitetty, on enää ajan kysymys, milloin robotit joko hakkeroidaan, vikaantuvat tai yksinkertaisesti kehittävät riittävästi älyä ja tietoisuutta, sekä päättävät alkaa lahtaamaan siviilejä täysin mielipuolisesti.
 
Ah! Olipas hyvää pohdintaa, joka samalla selvensi omaa tukostani. Olen nyt sitä mieltä että autonominen robotti on aivan kuten mikä muu tahansa joukkotuhoase, jota ei voi suoraan kontrolloida. Rinnastan koneellisen tappaja-automaatin siten taistelukaasuihin, biologisiin aseisiin, jalkaväkimiinoihin ja ydinaseisiin. Ero on ehkä se, että oikealla softalla robotti tappaa sivullisia noista vähiten. Helvetti pääsee irralleen ehkä vain silloin jos robotille annetaan vapaus ja keinot muokata omaa ohjelmointiaan, mikä on tietysti vain ajan kysymys kun joku häikäilemätön ihmisvihaajataho, kuten Venäjä, Kiina tai jokin Afrikan valtio päättää noin tehdä.

Mutta ei hätää. Jokaista vapaaksi päässyttä mielipuolista tappajarobottia kohti päästetään irti tuhat tappajarobotin metsästäjää... sikäli kun kunkin valtion resurssit siihen riittävät.

Näin se terrorismikin voidaan vaan automatisoida.
 
Niin, kauneus lepää katsojan silmässä; yhden mielestä terroristi on toisen näkövinkkelistä sankari. Sotilaallisiin käyttötarkoituksiin kehitetään kauko-ohjattuja ja yhä enemmän automatisoituja sotakoneita vähän joka puolella maailmaa. Olen yleensä S. Hawkinsin linjoilla tekoälyasiassa, mutta:

Lähdettäisiinkö kuulkaas kuntit kehittelemään meilläkin omia taistelurobotteja taistelukavereiksi? Ohessa valmis mallisto joten ei kun ahjot kuumaksi ja pajavasara paukkumaan. Saattaisi edesauttaa taloudenkin elpymstä kun myytäisiin ystävällismielisille maille: pohjolan hakkapeliitat ilmestyvät tulevaisuuden sotakentille uudelleensyntyneinä roboteiksi! (Minulle kelpaisi etenkin tuo oikeanpuolimmainen taistelupariksi vaikka vähän vikuri saattaakin olla, saisiko sellaisen merkittyä jo valmiiksi piakkoin saapuvaan tornikirjeeseen?)

image.jpg
 
Uskon, että ihmistä avustavat tehostimet/manipulaattorit kehittyvät ehkä nopeammin, kuin taistelukentän robotiikka.
 
Mieleen tulee joku Tieteen maailma tms. jossa kerrottiin "biomassaa" syövistä taisteluroboteista. Eli tämä robotti söisi kuolleet pois ja muuttaisi sen energiaksi. Siinä sitten pohdittiin miten se erottaa haavoittuneen kuolleesta jne.
 
Mieleen tulee joku Tieteen maailma tms. jossa kerrottiin "biomassaa" syövistä taisteluroboteista. Eli tämä robotti söisi kuolleet pois ja muuttaisi sen energiaksi. Siinä sitten pohdittiin miten se erottaa haavoittuneen kuolleesta jne.

En ole ihan varma mikä tuollaisen tarkoitus olisi, mutta onhan jo nyt tiedossa, että tietyt kärpästoukat syövät vain kuollutta lihaa ja niitä käytetään haavojen hoitoon.
 
En ole ihan varma mikä tuollaisen tarkoitus olisi, mutta onhan jo nyt tiedossa, että tietyt kärpästoukat syövät vain kuollutta lihaa ja niitä käytetään haavojen hoitoon.
Sama kun tankin moottori toimisi kuolleilla sotilailla. Ei tule puutetta poltto-aineesta taistelun jälkeen.

Se eettisyys on taas siinä että miten jos tollaseen tulee vika ja se alkaa ahmia eläviä ja haavottuneita. Ja myös se että kaatuneitten käyttö poltto-aineena on vähän oudon tuntusta(ehkä se on vaan hautarauha jne. mitkä tekee siitä oudon).
 
Ai että syömällä toisia otuksia saataisiin energiaa? Kuulostaa tutulta. Minun täytyy pohtia tätä suurta ideaa samalla kun syön tätä meetvurstileipääni. Olisiko se kone silloin enemmän biologinen kuin mekaaninen, vai hämärtyvätkö tässä mekaanisen ja biologisen rajat? Panssarivaunu, jossa olisi lihaksia? Kyllä se vain niin on että ihminen on painoonsa nähden huonoa polttoainetta. Paljon parempiakin keinoja on, kuten kasvienergia. Voitaisiin luodakin sellainen autonominen kasviainesta syövä nelijalkainen kulkupeli, jonka päälle voitaisiin heittää satula, ja se voisi toisinaan hirnua. Kasvien saatavuuskin on paljon parempi kuin kaatuneiden vihollissotilaiden, poislukien talvella. Talvellakin ovat vielä puut pystyssä, joista on tiedetty saavan energiaa polttamalla. On se tiede ihmeellistä.

En minä silti estä ketään suunnittelemasta lihansyöjäkonetta mutta väitän, että sen koneen hyödyt olisivat kyseenalaiset, ja ne samat kyvyt voitaisiin saavuttaa muillakin keinoin, ja ilman, että Human Rights Watch tai YK kiljuisi asiasta naama kirjavana.
 
Tässä on nyt unohdettu yksi paljon tärkeämpi asia:
Toistaiseksi ihminen on siis ollut se, joka kontrolloi robottia. Näköpiirissä on robotti, jota ihminen ei kontrolloi vaan joka tappaa vihollisia oman harkintansa mukaan. Silloin se ei ole enää ihmisen kontrollissa. Silloin Terminator-elokuvien Tuomiopäivä on saapunut. Kun tämä raja on ylitetty, on enää ajan kysymys, milloin robotit joko hakkeroidaan, vikaantuvat tai yksinkertaisesti kehittävät riittävästi älyä ja tietoisuutta, sekä päättävät alkaa lahtaamaan siviilejä täysin mielipuolisesti.

Se aika on ihan tuossa nurkan takana jolloin taistelurobotit (on ehkäpä viisasta täsmentää se, että robotti on tässä yhteydessä hiukan harhaanjohtava sana, koska siitä tulee eittämättä mieleen inhimillisiä piirteitä omaava robotti tai terminaattori - kyseessä on lähinnä automaattinen taistelujärjestelmä tulisi alussa muistuttamaan nykymuotoisia uav:tä ja telaketjuilla varustettuja kauko-ohjattuja järjestelmiä etc) alkavat tehdä esiinmarssia taistelukentälle, alkuun tosin suhteellisen rajallisessa/rajoitetussa roolissa mutta näistä laitteista on vielä todella pitkä matka aikaan, jolloin kyseessä olisivat tietoisuudella tai todella kehittyneellä tekoälyllä varustetut järjestelmät.

Seuraavassa kuvaus tämän hetken aivoja jäljettelevien neuroverkkojen tehosta:

"Tätä nykyä aivoja jäljittelevien neuroverkkojen rautapuoli yltää kytkentöjen määrällä ja laskentateholla arvioiden pienen jyrsijän aivojen tasolle. Ohjelmointi kuitenkin laahaa, ja kokonaisuutena tekoäly on kuin vastasyntynyt hiirenpoikanen, mutta sokeampi ja huonompi oppimaan". (Tiede huhtikuu/2015).

Mutta on tietenkin huomioitava, että kyseessä on vain yksi lähestymistapa tulevaisuuden tekoälyn ja tietoisuuden kehittämiseen - pyrkiä mallintamaan aivojen toimintaa digitaalisesti (projekti jollaiseen EU aikoo käyttää miljardi euroa lähivuosina). Muitakin lähestysmitapoja on olemassa ja niitä tutkitaan ja kehitetään kaiken aikaa, on itse oppivia järjestelmiä ja erilaisia suunnitelmia joissa lähestytään teemaa erilaisten neuroverkkojen ja muiden kokonaisuuksien kautta. Ongelmia on edessä runsaasti, on esim. havaittu se, että pelkkä laskentatehon lisääminen ei riitä - tässä tietokoneinsinöörit ovat pysyneet hyvin vauhdissa mukana, lupaukset on pidetty: laskentateho on kaksinkertaistunut noin kahden vuoden välein. Nyt on kuitenkin huomattu, että se ei riitä. Ennalta laskettu laskentatehon määrä ei näytä riittävän - tarvitaan jotain muuta. Vielä ollaan siis todella kaukana hetkestä jolloin tekoäly selviäisi Turingin testistä.

Toisaalta eipä itsenäiseen toimintaan ja päätöksentekoon pystyvän automaattisen asejärjestelmän tarvitsekään selviytyä Turingin testistä, sille riittää aivan toinen taso kyvyssä tehdä päätöksiä ohjelman sallimissa rajoissa, ja on myös huomioitava tietotekniikan ja tekoälytutkimuksen kehittyminen eli se mikä nyt tuntuu suurelta ongelmalta voidaan ratkaista tulevaisuudessa mahdollisesti kvanttitietokoneiden tai muiden vastaavien ratkaisuiden kautta - yksin laskentateho voi kasvaa niin tolkuttomasti ettei nykyään vastaavan saavuttaminen ole mahdollista käytössä olevilla tavallisilla kotitietokoneilla. (Tällä hetkellä kvanttitietokoneisiin liittyy ongelmia mutta uskoisin niitä ratkaistavan seuraavan vuosikymmenen kuluessa).

Henk.koht. kuitenkin uskon (uskomisestahan tässä on lopulta kyse), että tekoälyn kehittämiseen liittyvät ongelmat tullaan ratkaisemaan tulevaisuudessa ja jossain vaiheessa käyttöön tullaan ottamaan erilaisilla tekoälyillä varustettuja järjestelmiä - kyseessä voivat olla androidien kaltaiset yksiköt mutta aivan yhtä hyvin globaali "verkko" jolla on tietoisuus ja kyky kehittää ja opettaa itseään ja joka on käytännössä "tuhoutumaton" järjestelmä. Kyseinen järjestelmä ei ole enää ymmärrettävissä miksikään yhdeksi "tietokoneeksi" vaan se on kaikkialla internetin lailla, jolloin seuraus on tietenkin se, että sen sammuttaminen on käytännössä mahdotonta.

Nämä androidien kaltaiset "yksiköt" olisivat näkyvin osoitus tekoälystä ja sellaiset selviytyisivät helpohkosti Turingin testistä ja tietenkin sellaisia olisi mahdollista jalostaa mihin tehtävään tahansa - myös sotilaiksi. Sotilaan ei välttämättä tarvitse olla mikään todellisella tekoälyllä varustettu androidi vaan vähäisempikin tietoisuuden taso riittää, ainahan on olemassa riski, että ymmärtävä ja tiedostava yksikkö jättää tottelematta käskyä. Jokin itsenäiseen päätöksentekoon kykenevä käskyjä kyseenalaistamaton "biomekaaninen" yksikkö voi olla tulevaisuuden sotilas.

Ongelmia ja riskejä kehittelytyö ja etenkin käyttö pitää sisällään - on tietty oleellinen kysymys, että missä määrin koneelle voi antaa valtaa tehdä ehdottoman itsenäisiä päätöksiä ja mitä riskejä tähän liittyy.

No meni hiukan fiktion puolelle, mutta mukana on hitunen sitä mitä suunnitellaan ja millainen tulevaisuus voi olla.

vlad.
 
Ei taistelurobotti vaadi välttämättä kovin merkittäviä älynlahjoja:

Jonkinlaiseen tulokseen riittävät varmasti ihan perustavaa laatua olevat koodausratkaisut

UAV, jossa hyötykuormana jotain räjähtävää:

1) Seuraa waypointteja
2) Jos havaitaan sopiva lämpöheräte, tiputa pommit
3) Palaa kotiin.

Hyvin lineaarista, mutta edellyttää, että alueella ei mieluusti paljoa omia joukkoja / siviilejä. Muussa tapauksessa joudutaan käyttämään ihmistä päätöksentekijänä.
 
Sotaroboteista ja niiden kieltämisestä on kyllä jo kokemuksia:

maamiinat.

Nehän ovat autonomisia, tappavia asejärjestelmiä. Miinakiellosta voidaan varmaan myös ennustella sitä, miten kattavaksi sotarobottikiellot saadaan...

Itse näen että sotarobottien suurin moraalinen ongelma vaikuttaa olevan siinä, että ne tekevät voimankäytöstä liian houkuttelevan vaihtoehdon. Mitä halvempaa ja verettömämpää sotiminen on (sille hyökkäävälle osapuolelle), niin sitä suurempi lienee todennäköisyys, että voimaa käytetään.

Joskus luin kiinnostavan analyysin aiheesta, mikä pisti miettimään, että sotakoneiden esiinmarssi voi hyvin johtaa uuskolonialismin vahvaan nousuun. Nythän näissä siirtomaasodissa (esim. Afganistan) rajoittavana tekijänä on toisaalta se, että joukkojen huoltaminen kaukana kotoa on kallista, ja toisaalta se, että tappioiden sieto on huonoa. Lisäksi "kapinallisten" erottelu siviileistä on vaikeaa. Sitä vastoin vastarintaliikkeiden kuten Talebanin menestys perustuu siihen, että ne kestävät leikkiä kauemmin, ja niiden olemassaolo taas riippuu siitä, että paikallisväestö tukee niitä. Miten paikalliset sitten saadaan tukemaan murhanhimoista vastarintaliikettä? Esimerkiksi siten, kun miehittäjät saadaan hyökkäilemään vahingossa siviilikohteisiin - ja tämä onnistuu iskemällä miehittäjän mosureita vastaan. Ennemmin tai myöhemmin vastaiskut alkavat osua siviileihin.

Tämä yhtälö keikahtaa aika paljon siinä vaiheessa, kun suurin osa mosureista saadaan korvattua roboteilla. Robotin tuhoutuminen vastarintaliikkeen iskussa on vain kustannuserä, joten likimainkaan kaikkiin tienvarsipommeihin tms. ei kannata vastata mitenkään. Robotit voivat odottaa rauhassa, että niitä vastaan isketään suoraan, ja ampua vasta sitten ja vain hyökkääjiä. Vastatoimet ylipäänsä voivat olla paljon harkitumpia ja vähemmän väkivaltaisia, ja näin vastarintaliikkeeltä voidaan helposti "kuivattaa meri" ympäriltä: jos tilanne on se, että vastarintaliike räjäyttelee isoja pommeja mutta miehittäjien robottirekat tunkevat silti härkäpäisesti läpi ja välillä tuovat jotain avustustarviketta, niin siinä voi käydä äkkiä niin, että vastarintaliike nimenomaan nähdään kansan vihollisena.

Robotit toki maksavat mutta ne eivät tarvitse kalliita tukikohtia viihdytyskeskuksineen ja ruokaloineen, ne toimivat niin kauan kun virtaa riittää, ja kun niistä aika jättää niin ne voidaan vaan hylätä paikalleen.
 
Tässä on nyt unohdettu yksi paljon tärkeämpi asia:
Toistaiseksi ihminen on siis ollut se, joka kontrolloi robottia. Näköpiirissä on robotti, jota ihminen ei kontrolloi vaan joka tappaa vihollisia oman harkintansa mukaan. Silloin se ei ole enää ihmisen kontrollissa. Silloin Terminator-elokuvien Tuomiopäivä on saapunut. Kun tämä raja on ylitetty, on enää ajan kysymys, milloin robotit joko hakkeroidaan, vikaantuvat tai yksinkertaisesti kehittävät riittävästi älyä ja tietoisuutta, sekä päättävät alkaa lahtaamaan siviilejä täysin mielipuolisesti.

Itse en ole erityisen huolissani noista Terminator-tyyppisistä jalkaväkivatson roboteista. Voivat ne tietenkin joissain tilanteissa mennä sekaisin tarkoituksella (hakkeroiniti) tai vahingossa (vikaantuminen) ja lahdata joukon siviilejä, mutta kyllä siviilejä kuolee aika läjittäin jo nykyisinkin sodissa sekä tarkoituksella että etenkin vahingossa, joten en nyt tiedä, olisiko tuossa erityisesti mitään huonompaan menoa.

Toinen juttu on sitten, jos joku ydinaseiden käyttö annetaan tietokoneiden päätettäväksi. Käsittääkseni kylmä sota on täynnä juttuja siitä, että sensorit ovat osoittaneet ydinhyökkäyksen olevan käynnissä, mutta aseiden käyttäjät eivät silti ole ryhtyneet vastaiskuun. Tässä on ajatuksena se, että ihan tavallinenkin ihminen pystyy täysvaltaisempaan analyysiin kuin tietokone. Jos juuri nyt Venäjällä tai USA:ssa joku tutkamies saisi havainnon, että täysi ydinhyökkäys on käynnissä, niin todennäköisesti hänen ensimmäinen reagointinsa olisi, että missäköhän kohti tällä kertaa on laitteistossa vikaa sen sijaan, että ensitöikseen välittäisi tiedon, että maa on ydinhyökkäyksen kohteena ja on aika ampua vastaisku.
 
Itse näen että sotarobottien suurin moraalinen ongelma vaikuttaa olevan siinä, että ne tekevät voimankäytöstä liian houkuttelevan vaihtoehdon. Mitä halvempaa ja verettömämpää sotiminen on (sille hyökkäävälle osapuolelle), niin sitä suurempi lienee todennäköisyys, että voimaa käytetään.

Niinpä. Minulle tulee mieleen, että jos sotiminen robotistuu täysin, niin sodat muuttuvat täysin verettömiksi. Kummankin puolen sotilasrobotit ottavat toisistaan mittaa ja sitten se, jonka robotit voittavat, voittaa sodan. Hävinneen puolen ei ole mitään mieltä jatkaa sotimista ihmissotilain, koska ne häviäisivät roboteille ja seurauksena olisi vain hirvittävä määrä uhreja. Hyökkäävän puolenkaan ei ole mitään tarvetta kohdistaa sotatoimiaan hävinneen puoleen siviileihin tai siviili-infraan, koska sotarobottien tuhouduttua, sen on joka tapauksessa pakko alistua voittajan tahtoon. Näin siis ideaalitilanteessa. Tietenkin pahimmassa tapauksessa mennään sitten jonnekin Terminator-tasolle ei välttämättä mitään täysin automaattisia robotteja vastaan sodittaessa, mutta "hullun diktaattorin" -robottien koittaessa ottaa maailmaa haltuunsa. Hulluille diktaattoreille robotit tietenkin sopivat paremmin sotilaiksi kuin ihmiset, kun ne eivät juuri välitä siviiliuhreista tai yleensäkään oikeudenmukaisuudesta. No, ainoa toivo on se, ettei minkään hullun diktaattorin taloudelliset resurssit koskaan riitä samaan, mihin vapaiden liberaalien demokratioiden, eikä hän siten pysty rakennuttamaan näiden robottiarmeijoita haastamaan kykenevää armeijaa.

Juttusi siirtomaasodista pitää varmaan paikkaansa. Nythän sitä sotimista harjoitetaan jo vähän tuohon tyyliin miehittämättömillä lennokeilla. USA on esim. sotinut Jemenissä jo pidemmän aikaa, vaikkei siellä ole ollut yhtään amerikkalaista paikan päällä.
 
Palataan tähän ketjuun HS:n uutisen tähden:

Tutkijat ja teknologiavaikuttajat varoittavat: tappajaroboteista tulee huomispäivän Kalašnikoveja

"Joukko robotiikan tutkijoita sekä tieteen ja teknologian huippuja varoittaa avoimessa kirjeessä "lähes väistämättömästä" tappajarobottien kilpavarustelusta.

Kirjeen ovat allekirjoittaneet muiden muassa brittiläinen astrofyysikko Stephen Hawking, Applen perustaja Steve Wozniak, sähköautofirma Teslan sekä kaupallista avaruusteknologiaa kehittävän SpaceX-yhtiön perustaja Elon Musk ja kielitieteen emeritusprofessori Noam Chomsky. Allekirjoittaneet ilmoittavat vastustavansa tekoälyn kehittämistä sotilaallisiin tarkoituksiin.

"Ihmiskunnan kohtalonkysymys on, käynnistämmekö maailmanlaajuisen tekoälykilpavarustelun vai estämmekö sellaisen alkamisen. Jos yksikään sotilasmahti ryhtyy kehittämään älykkäitä aseita, on kilpavarustelu käytännössä väistämätön", kirjeen tekstissä todetaan.


..."

Yllä uutisen alku, mutta kuten taisin ketjussa jo aiemmin todeta, tilanne liene jo se, että juna on mennyt. En oikein usko, että enää tässä vaiheessa tätä junaa on mahdollista pysäyttää kun entistä useampi valtio on tutkimassa "robottiaseita" tai on kehittämässä ja ottamassa käyttöön aseistettuja UAV:tä seuraten näin Yhdysvaltojen jalanjälkiä. Ja UAV:n kohdalla seuraava askel voi olla - ja kenties onkin - uutisen kuvatekstistä lainattuna "Älykäs ase voisi olla esimerkiksi aseistettu lennokki, joka osaa itsenäisesti etsiä ja tuhota ihmisiä tiettyjen tuntomerkkien perusteella. Kuvassa armeijan käyttöön tarkoitettu kuvauslennokki."

vlad.
 
(Kuten joku minua viisaampi huomautti joistain näistä muualla)
Taistelurobotti..
- ei saa päähänpistoa syyllistyä sotarikoksiin
- ampuu tarkemmin kuin ihminen
- osaa tehdä ampumispäätöksen ja ampumattajättämispäätöksen luotettavammin (joissain tapauksissa)
- ei kärsi vaikeista mielenhäiriöistä, aistiharhoista tai taistelustressistä
- ei niinsanotusti tuo sotaa kotiin

Myöskin, vastavoimana itseliikkuville taisteluroboteille olisi lääkintärobotit ym. humanitäärisen avun tuojat. Luodit ja kranaatit voidaan vaihtaa lääkintäpakkauksiin ja proteiinikeksipaketteihin. Minä näen mielessäni sen hyvin banaalin näyn kun ensin tulee tuhoa ja sen jälkeen tulee lääkintärobotti, pudottaa muutaman lääkintäpakkauksen, hoito-oppaan ja opaskartan lähimpiin avustuspisteisiin (pakolaisleireihin), jonka jälkeen se jatkaa matkaa.

Robotteihin liittyy myös se riski, että korkeaa teknologiaa päätyy ei-haluttujen tahojen käsiin, mahdollisesti mutkien kautta ja vasta kuukausien päästä. Jossain vaiheessa joku paikallinen onnistuu lamauttamaan robotin sotatoimialueella, onnistuen jättämään siitä teknologisesti mehukkaimmat kohdat ehjiksi.

Tietäen jenkit, he ovat taatusti ensimmäisinä soveltamassa robotteja jossain päin lähi-itää. Ohjelmointi tulee olemaan kallis, juosten kustu, ja siviiliuhreja tulee pian käyttöönoton jälkeen. Saamme sitten lukea kuinka robotit eivät olekaan niin kirurgisia kuin luvattiin.

Robotit taistelukentällä tulevat olemaan vain yksi voima-vastavoimakokonaisuus, eivät pelkkä tuhoava voima ja tuomionpäiväase. Puukko, jonka toisessa päässä on laastari.

Sitten siviilipuolella ja terroripuolella... Ihmiskunta liukuu kohti pistettä, missä yksi ihminen kykenee listimään kaikki muut. Tietysti näitä ihmisiä tulee olemaan enemmän kuin se yksi. Me joko tuhoudumme tai hankkiudumme eroon kostonhimosta tahi selviytymisvietistä ja sen tuomasta väkivallasta. Ei siinä välimaastoa ole pitkällä tähtäimellä.
 
Back
Top