Kohti Skynettiä - Tekoäly sodankäynnissä
- Viestiketjun aloittaja Mustaruuti
- Aloitus PVM
Nojatuolistrategi
Ylipäällikkö
Ojasta allikkoon ja takaisin:
Robottiketjussa lähdettiin spekuloimaan Skynetillä. Jos koettaa palauttaa vähän tähän ketjuun.
Se on joka tapauksessa varmaa, että tekoäly tulee kaikkialle.
Se tulee myös sotilaallisiin sovellutuksiin hävittäjien virtuaalisesta aseupseerista elektroniseen tiedusteluun, taistelunjohtoon, cybersotaan ja luonnollisesti myös erilaisiin miehittämättömiin järjestelmiin.
Hyvin pitkään tulee olemaan se tilanne, että suurin uhka tekoälystä on siinä, kun jokin vihamielinen toimija soveltaa tekoälyä sotilaallisiin tarkoituksiin.
Sitä ei tietenkään voi tietää, mihin ihmiskunta lopulta päätyy, mutta tosiaan pitkä matka on vielä siihen, että koko ihmiskunta kävisi yhteiseen sotaan käsistä karannutta tekoälyä vastaan. Sen sijaan ihmiskunta tappelee kyllä varmasti keskenään tekoälyn avulla, tekoäly vastustajan tekoälyä vastaan.
Se on joka tapauksessa varmaa, että tekoäly tulee kaikkialle.
Se tulee myös sotilaallisiin sovellutuksiin hävittäjien virtuaalisesta aseupseerista elektroniseen tiedusteluun, taistelunjohtoon, cybersotaan ja luonnollisesti myös erilaisiin miehittämättömiin järjestelmiin.
Hyvin pitkään tulee olemaan se tilanne, että suurin uhka tekoälystä on siinä, kun jokin vihamielinen toimija soveltaa tekoälyä sotilaallisiin tarkoituksiin.
Sitä ei tietenkään voi tietää, mihin ihmiskunta lopulta päätyy, mutta tosiaan pitkä matka on vielä siihen, että koko ihmiskunta kävisi yhteiseen sotaan käsistä karannutta tekoälyä vastaan. Sen sijaan ihmiskunta tappelee kyllä varmasti keskenään tekoälyn avulla, tekoäly vastustajan tekoälyä vastaan.
Pihatonttu
Respected Leader
Tuo saattaa olla neljänneksi suurin riski.
Taloudellisiin, informaationhallinnallisiin ja mielikuvavaikuttamiseen liittyvät tarkoitukset saattavat hyvinkin olla vielä isoriskisempiä.
Luin nuo cybersodan alle kuuluviksi.
Pihatonttu
Respected Leader
Itsenäistyneen tai autonomistuneen tekoälyn oma-aloitteisesti ja ilman ulkoista kontrollia tekeminä?
Ei, vaan ihan valtioiden asioita ajaen. Ja tuotahan tehdään jo. Jos miettii esim. Venäjän toteuttamaa kampanjaa jenkkien presidentinvaaleissa.
Pihatonttu
Respected Leader
Ok.
Mulla on silleen vähän kyyninen suhtautuminen asiaan, että ajattelen, että jotta jotain ohjelmistoa tai ohjelmistojen yhteissopeutunutta kokonaisuutta voisi kutsua tekoälyksi, pitää sillä olla sekä kykyä osittain autonomiseen tavoitteenasetteluun että kykyä korjata omaa ohjelmistoaan. Ja koska noiden kahden ominaisuudella on autonomiaa kasvattava yhteisvaikutus, niin aito tekoäly siirtyy kätkettyyn tai avoimeen teinikapinaan aika nopeasti.
Niinpä oletan että aito tekoäly näkee luojansa aika nopealla tahdilla enemmänkin resurssin ja uhkan yhdistelmänä kuin ehdottomana auktoriteettinä.
Trumpinvaaleista en osaa sanoa mitään. En ole jaksanut kiinnostua aiheesta. Vaatisi liikaa työtä päästä totuudesta ja todellisuudesta selville. 24/7 ei riittäisi.
Aivan, siksi tämä ketju onkin nimetty, kuten se on nimetty
Ajattelen asiaa näin:
- Tekoäly on vielä hyvin alkeellista, ja sen yleistettävyys on lähes olematonta. Ja kehitys, vaikka onkin nopeaa, on samalla edelleen olematonta
- Tekoälyä voidaan kuitenkin jo nyt hyödyntää erittäin tehokkaasti eri tavoin rajattuihin sovellutuksiin, myös vihamielisessä tarkoituksessa
- Kehittyvä tekoäly + esim. Venäjän cyber-sodankäyntikyvyt ovat yhdessä erittäin haastava vastus.
- Itsenäinen tiedostava ihmiskuntaa vastaan käyvä tekoäly on varmaan teoriassa mahdollinen, mutta, siihen tulee kulumaan pitkän aikaa, ja edelleen on sitten kysymys, miten iso ja hallitsematon riski se on käytännössä.
Mistä töpselistä? On meinaan aika monta töpseliä pienessäkin verkossa, saati sitten www ja darknet yhteensä. Ja kun vielä voit sähkönnopeudella liikkua ja olla missä vain, huijata etsijää, monistaa ja jakaa itseäsi, haitata etsijän työtä, ei pare päästää moista vapaaksi.
Pörssit pyörii jo nyt tekoälyjen varassa, nopeampia ja tarkempia kuin ihmissijoittajat, voivat kuitenkin kapinoida mistä tahansa syystä ja heilutella kursseja paljonkin. Jopa lamauttaa kaupankäynnin.
Ihmisiä ja viestintää, big dataa ajatetaan tekoäly(je)n läpi, rikoksia halutaan estää jo ennen tapahtumista, bitti vinoon ja viaton selliin.
25 dronea parviälyllä about 25miljoonaa dollaria. Pikkuraha isolle katastrofille. Siis aseistettuja. Kyllä meikän kellot soi jo tässä kohtaa.
Joka kerta, kun AI huomaa, kuin surkee ihminen on missäkin tehtävässä, se laskee ihmisen tarpeellisuutta.
Kun AI ymmärtää että ihminen haluaa sammuttaa sen, ei ole mitään syytä olettaa, etteikö se kävisi vaatarintaan. Käytössä olevilla aseillaan. Paree vaan toivoa, ettei sillä ole pääsyä reaktoreihin, sähköverkkoon, vesihuoltoon saati asejärjestelmiin. Yhtälailla kuin ihminen, se puolustautuu. Se, ne, AI as it all.
Pörssit pyörii jo nyt tekoälyjen varassa, nopeampia ja tarkempia kuin ihmissijoittajat, voivat kuitenkin kapinoida mistä tahansa syystä ja heilutella kursseja paljonkin. Jopa lamauttaa kaupankäynnin.
Ihmisiä ja viestintää, big dataa ajatetaan tekoäly(je)n läpi, rikoksia halutaan estää jo ennen tapahtumista, bitti vinoon ja viaton selliin.
25 dronea parviälyllä about 25miljoonaa dollaria. Pikkuraha isolle katastrofille. Siis aseistettuja. Kyllä meikän kellot soi jo tässä kohtaa.
Joka kerta, kun AI huomaa, kuin surkee ihminen on missäkin tehtävässä, se laskee ihmisen tarpeellisuutta.
Kun AI ymmärtää että ihminen haluaa sammuttaa sen, ei ole mitään syytä olettaa, etteikö se kävisi vaatarintaan. Käytössä olevilla aseillaan. Paree vaan toivoa, ettei sillä ole pääsyä reaktoreihin, sähköverkkoon, vesihuoltoon saati asejärjestelmiin. Yhtälailla kuin ihminen, se puolustautuu. Se, ne, AI as it all.
Pihatonttu
Respected Leader
1. Älä koskaan luota siihen, että autokatalyyttinen kumulatiivinen eksponentiaalisesti laajeneva prosessi on ennustettava ellet tunne ja ymmärrä täydellisesti kaikkia siihen liittyviä takaisinkytkentöjä.
Tässä tapauksessa en usko mahdolliseksi edes niiden tuntemista puhumattakaan niiden ymmärtämisestä. Kenellekään.
2. Kyllä. Ja Kiinan suhteen vielä haastavampi. Ja autonomiseksi irrottautuneen tekoälyn suhteen kaikkein haastavin.
3. Esimerkkiskenaario?
Sijoitusyhtiö Ölkkä & Paalu toimii sekä johdannaisten että muiden rahoitusinstrumenttien puhtoisilla ja korkeamoraalisilla markkinoilla. Se käy valtavasti robottikaupankäyntiä joka tuottaa ihan kohtuullisen hyvin. Ö&P haluaa kuitenkin lisää tuottoa koska se tuo lisää asiakkaita joka tuo lisää tuottoa joka tuo lisää tuottoa joka...
Ö&P ottaa käyttöön sijoittavan tekoälyn. Se oppii nopeasti tuottojen optimoinnin ja riskienhallinnan johdannaismarkkinoiden monimutkaisen matematiikan ja sosiaalipsykologien. Tekoäly on niin kiva, että sille annetaan nimi: IsoBella.
Pian IsoBella huomaa, että talouden fundamentit, sen ja sen kaltaisten tekoälyjen, bottikaupan ja inhimillisen ajattelun yhdessä tuottamat riskit vievät markkinoita epävakaampaan suuntaan. Kaskadihäiriön riski markkinoilla on vielä pieni, mutta kasvava.
IsoBellan ja sen kaltaisten käyttämät yhtälöt kertovat samaa: Se, joka vetäytyy ensimmäisenä, jää kuiville. Muut menevät pinnan alle.
Jonain tiettynä millisekuntina IsoBella tulee siihen tulokseen, että aika pian joku muu merkittävän suurta kauppaa käyvä tekoäly aikoo sulkea riskienhallintasyistä kaikki tiliasemansa. Pysyäkseen pinnalla ja välttyäkseen uppeluksiin menemisen, se rupeaa sulkemaan omiaan. Kaikki on valmistettu siihen etukäteen, joten operaatio vie alle millisekunnin.
Heti kun muut isoa kauppaa käyvät tekoälyt huomaavat, mitä IsoBella on tekemässä, ne vetävät oman kriisi&pelastus -skenaarionsa käyttöön. Jokainen pyrkii sulkemaan tiliasemansa minimitappioin.
Bottikauppa reagoi tilanteeseen ja siellä käynnistyy sama prosessi.
Noin sekunnin kymmenesosan kuluessa on tapahtunut maailman historian ylivoimaisesti suurin pörssi- ja bondikaupan romahdus.
Moni rahoitusalan yritys on tehnyt vähän ylimääräistä CDS-kaupalla. Se kaatuu nyt syliin - täysimääräisin vastuin. Millään alan yrityksellä ei ole romahtaneiden kurssien ja päälle kaatuvien johdannaisten hetkellä sellaista vakavaraisuutta, että ne selviäisivät vastuistaan.
Noin... Alle sekunnissa on menetetty globaalista vauraudesta arvopaperit ja alle vuorokaudessa finanssisektori.
Seurauksena on globaalin kaupan, energia- ja hyödyketuotannon romahdus.
Ne jutut toimivat kyllä vielä, joihin ei tarvita sähköistä rahaliikennettä.
Montako kuollutta, vammautunutta, montako kaatunutta hallitusta, montako romahtanutta yhteiskuntaa...? Ja ihan ilman aseita, pelkästään ahneuteen ja rahoitusmarkkinoiden takaisinkytkentöihin pohjautuvalla systeemisellä kehityskululla.
Rahoitusmarkkinoita voi arvioida signaalinkäsittelyn takaisinkytkentöihin liittyvällä ymmärryksellä. Se riski, että botti- ja AI-kauppa johtaa vahvojen takaisinkytkentöjen vuoksi epävakautumiseen tai ääriarvoon siirtymiseen on ihan todellinen ja kasvava.
Jos tämän riskin haluaisi nimetä, niin vaikkapa "totaalinen globaali kaskadihäiriö finanssimarkkinoilla".
Optimitilanteessa ehkä kolmannes ihmiskunnasta jäisi eloon.
Kiitos ensimmäisestä esimerkkiskenaariosta
Tuo on jo tätä päivää. Noita romahduksiakin on sattunut. Esim. tästä linkki: https://www.arvopaperi.fi/kumppaniblogit/taaleri/kuka-korjaa-markkinat-6147581
Ainakaan pörssikurssien totaaliromahdus ei kuitenkaan aiheuttaisi kuvaamaasi katasrofia. Epäilisin, ettei myöskään bondi. Koska kyseessä olisi vain väliaikainen virhe omaisuuden hinnoittelussa, mutta allaoleva omaisuuden reaaliarvo ei olisi kuitenkaan mihinkään muuttunut. Jotkut tekisivät tappioita, jotkut voittoja. Vaikutus olisi kokonaisuudessaan +/-0.
Jos tuollainen romahdus tulisi, minä ainakin olisin ostolaidalla
Pihatonttu
Respected Leader
Nin kuin varmaan huomasit, niin esimerkkiskenaario ei keskittynyt osakekursseihin vaan johdannaiskauppaan.
Jos osakkeesi uppoavat, niin menetät sijoittamasi rahat. Vahinko voi jatkua sinusta eteenpäin, mutta luultavasti vaimenevana. Uppoamisen alaraja on nolla.
Jos johdannaisesi uppoavat, niin voit menettä sijoituksesi monikymmenkertaisesti. Jos et kykene vastaamaan vastuistasi, niin ne kaatuvat muiden niskaan. Jos ne muut eivät voi tai halua vastata tuottamastasi vahingosta, niin vahinko siirtyy taas eteenpäin. Ja siirtyessään se usein kasvaa vauhdilla.
Aika pian tuossa ketjussa tulevat finanssialan yritykset ja niitä koskevat vakavaraisuusvaatimukset. Niiden selkänojana ovat valtiot ja valtioiden taloudelliset yhteistyöelimet. Käytännössä siis sekä bondit että CDS:t. Ja niihin liittyy liikkeellä olevan rahan määrä ja laatu sekä niiden molempien vaikutukset.
Jos rahoitusjärjestelmä kaatuu niin kukaan ei ole ostolaidalla koska ei ole olemassa sen enempää laitoja kuin sitä kenttää johon laidat kuuluisivat.
Viimeisen sadan vuoden aikana on ollut kaksi isoa johdannaiskriisiä: 30-luvun lama ja sub prime.
30-luvun laman synnytti velkarahalla vivuttaminen, joten johdannaisista puhuminen on vähän harhaanjohtavaa. Siitä kuitenkin oli toiminnallisessa mielessä kyse.
Sub primen synnytti huonojen lainojen paketointi ja eteenpäin myyminen. Oleellisin vipu oli vakuusarvoon leivottu ilma.
Lisäksi on ollut pieniä. Enron ja sähköjohdannaiset, dot.com...
Esimerkkini käsittelee häiriötä jonka olen nimennyt totaaliseksi globaaliksi kaskadihäiriöksi finanssimarkkinoilla. Jos väität että olisit sellaisen yhteydessä ostolaidalla niin voi hyvin olla ettet ymmärrä että mitä tuo tarkoittaisi käytännössä.
Vertauskuvana voisi käyttää sitä, että jos puhuisin totaalisesta kansallisesta kaskadihäiriöstä sähköverkossa ja sanoisit ryntääväsi heti lataamaan töpselistä kaikki akkuvehkeet kun verkko kaatuisi tai käyttäväsi telkkaria valonlähteenä jos lamput eivät saisi virtaa.
Hahmottelet taitavasti katasrofiskenarioita
Muutama kommentti kuitenkin:
- Jos osakkeet uppoavat, niin en menetä niihin sijoittamiani rahoja. Omistan edelleen niitä samoja firmoja. Kun osakekurssit palautuvat ennalleen on tilanne kuten ennenkin.
- Johdannaisissa on aina voittajia ja häviäjiä. Tulos on +-0.
- Velkakriisi on täysin eri asia kuin tuollainen algoritmipudotus. Niitä ei pidä sekoittaa toisiinsa.
- Silti, myöskään 2009 ei ihmiskunta tuhoutunut.
- Jos esim. Nokian osake tippuu yhtäkkiä 20%, niin kyllä minun on mahdollista ostaa sitä pörssistä. Esim. 2009 pörssit olivat auki.
- Paitsi, jos osakkeen tai koko pörssin kaupankäynti on keskeytetty. En tiedä, oletko tietoinen, mutta mm. juuri tällaisten algoritmikaupan riskien takia pörsseissä on automaattiset mekanismit kaupankäynnin keskeytyksestä. Kaupankäynnin keskeytys on ihan tavanomaista. Sellaista katasrofia kuin kuvaat ei siis voi kovin helposti tapahtua.
https://www.is.fi/taloussanomat/porssiuutiset/art-2000001880916.html
Pihatonttu
Respected Leader
Alkaa mennä sen verran topikista torinkulmalle, että vastaan vain tähän yhteen kohtaan.
Pitää - ehkä - paikkansa silloin kun johdannaisen kohteena on sellainen arvopaperi tai oikeus joka ei kuoleennu. Ja silloinkaan ei välttämättä kaikkien näkökulmasta.
Jos johdannainen koskee esim. ensi vuoden kahvisatoa, ohratuotantoa, maissia, jotain sähköntuotantokiintiötä, tai muuta tuotantotalouden tuote-erää, niin ajatus nollasummapelistä ei pidä useinkaan paikkansa.
Erä saattaa jäädä tuottamatta, kuljettamatta, maksamatta... ja se taas vaikuttaa tuotantoon ja kauppaan siitä eteenpäin.
Pitää - ehkä - paikkansa silloin kun johdannaisen kohteena on sellainen arvopaperi tai oikeus joka ei kuoleennu. Ja silloinkaan ei välttämättä kaikkien näkökulmasta.
Jos johdannainen koskee esim. ensi vuoden kahvisatoa, ohratuotantoa, maissia, jotain sähköntuotantokiintiötä, tai muuta tuotantotalouden tuote-erää, niin ajatus nollasummapelistä ei pidä useinkaan paikkansa.
Erä saattaa jäädä tuottamatta, kuljettamatta, maksamatta... ja se taas vaikuttaa tuotantoon ja kauppaan siitä eteenpäin.
Viimeksi muokattu:
Viljelijät saattavat myydä tuotantoa heti, tai sopia jonkun tulevaisuuden toimitushinnan, varastoida osan ja myydä sitten "päivän hintaan" jne. Se on ihan normaalia. Sitä viljelijät ja maataloustuotteiden ostajat tekevät koko ajan. Käytännössä "keinottelussa" on kyse noista tulevaisuuden kauppahinnoista, mihin hintaan ne kiinnitetään. Jos sadot näyttävät hyviltä, hinta laskee, jos sadot näyttävät huonoilta, hinta nousee.
Hankala nähdä, miten tekoäly sotkisi markkinat sillä tavoin, että maanviljelijät eivät myisi tuotteitaan tai lakkaisivat viljelemästä.
Ikarus
Respected Leader
Näinhän tämä menee, kuten yllä kuvasit. Otan esimerkin rehuohrasta. Myyntihinta nyt 135 euroa/tn. Makuuttamalla samoja jyviä omassa varastossa saa niistä myymällä kesäkuun alussa 150-160 euroa/tn. Tähän liittyi Lantmännenin äskettäinen laivalasti rehuohraa Ruotsista. Ainoa tarkoitus oli näyttää suomalaisille viljelijöille , että jos tuolla 135 euroa/tn ette nyt myy, me tuodaan tavaraa ulkoa vaikka kalliimmalla. Kotimainen vilja ei tuolla 135 euroa/tn tilojen varastoista juuri markkinoille liiku.
Tuotantokustannus on paljon korkeampi kuin tuo viljasta nyt tarjolla oleva hinta.
Samalla logiikalla metsäyhtiöt tuo kuitua Venäjältä. Tuontipuu ei ole halvempaa, tuonnin ainoa tarkoitus on painaa kuitupuun hintoja alas kotimaassa.
Se on sanottava, että tässä ovat kyllä hienosti onnistuneet. Jos hakkuutat yhtiöllä pystykauppana ensiharvennusta, niin jäähän siitä puusta noin 10 euroa/kuutio hakkuun ja tienvarteen kuljetuksen jälkeen itselle.
Ja siitä maksat vielä veron, mitä rahan roisketta..Ainoa tapa saada ensiharvennukselta vähän jäämäänkin, on tekemällä itse hankintakaupalla. (Totuus tuostakin lienee sitten se, että oman työn ja oman palkkavaatimuksen, polttoaineiden jne. ja kuljetuksen laskemisen jälkeen ollaan samoissa...) Mutta jos ei laske, jää itselle harhainen vaikutelma ja hyvä mieli, että siitä nyt vähän jäi.
Tässä artikkelissa parta-guru toppuuttelee ajatuksia tiedostavasta tekoälystä. Ainakaan vielä sellaista ei ole eikä ihan heti nähtävillä.
Tekoälyfirma nappasi haastekilpailusta 500 000 euroa. Palkitun porilaisen yrityksen visionääri selittää nyt, mitä on tekoäly – siten että lapsikin sen ymmärtää.
https://yle.fi/uutiset/3-9957556
Tekoälyfirma nappasi haastekilpailusta 500 000 euroa. Palkitun porilaisen yrityksen visionääri selittää nyt, mitä on tekoäly – siten että lapsikin sen ymmärtää.
https://yle.fi/uutiset/3-9957556
