Informaatiosodankäynti, propaganda ja kulttuurivaikuttaminen - Turvallisuuden ulottuvuus

[JR49]

Mielenkiintoista on ollut seurata tiedotusvälineiden "joukkohysteriaa", mikä tällä kertaa toimii maanpuolustuksen hyväksi.
Vastaavia juttuja on ollut vaikka miten monta. En ole suomalaisten enemmistön maanpuolustustahdosta huolissani, näkeehän sen jo hallituksemme ryhdistäytymisestäkin, mutta tällaiset jutut saavat varmasti pohdintaa aikaan sen horjuvan vähemmistön mielissä.
Niitä on paljon, jotka ovat ratkaisujaan perustelleet sillä, että "ei tartte, ei koske minua, ei sotaa tule, kuka tänne nyt hyökkäisi". Näiden velvollisuudentuntoisten isänmaanystävien toiminta, että lähdetäänkin sotaa kohti, eikä poispäin, antaa miettimistä.

Tähän mennessähän on ollut tapana, ja tästä ovat otsikot kirkuneet yhtä lailla, että jätetään naiset ja lapset sodan keskelle ja lähdetään itse pakolaisiksi. Se on ollut hyväksyttävää median genressä. Nyt tuli toinenkin vaihtoehto miten toimia.

27-vuotias Andri jätti työnsä kokkina päästäkseen sotaan: ”Tämä on meidän maamme, ja olen valmis kuolemaan sen puolesta”​

”Kyse on maastamme. Ukrainalaisilla on vahva kansallinen identiteetti, ja olemme valmiita kuolemaan maamme puolesta”, sanoo taisteluun lähtevä perheenisä.

https://www.hs.fi/ulkomaat/art-2000008654377.html

 

[ctg]

A bipartisan group of attorneys general are launching an investigation into whether TikTok is designed and promoted in a “manner that causes or exacerbates physical and mental health harms” for children and young people.

Led by the Massachusetts attorney general, Maura Healy, the regulators are investigating whether the company violated consumer protection laws or put the public at risk.

“As children and teens already grapple with issues of anxiety, social pressure, and depression, we cannot allow social media to further harm their physical health and mental wellbeing,” Healey said in a news release on Wednesday.

The investigation will look into whether TikTok usage causes harms to young people and whether the company knew about those harms, according to the release announcing the investigation. “The investigation focuses, among other things, on the methods and techniques utilized by TikTok to boost young user engagement, including increasing the duration of time spent on the platform and frequency of engagement with the platform,” the release said.

US attorneys general launch investigation into harms of TikTok on young people

Regulators will consider the techniques the company implements to attract young users and keep them watching

www.theguardian.com

In a statement, a TikTok spokesperson, Ben Rathe, responded to the investigation by saying: “We care deeply about building an experience that helps to protect and support the wellbeing of our community, and appreciate that the state attorneys general are focusing on the safety of younger users. We look forward to providing information on the many safety and privacy protections we have for teens.”

 

[ctg]

Joka neljäs kansanedustaja kokee joutuneensa tällä vaalikaudella jonkinlaisen hybridivaikuttamisen kohteeksi. Tällaisella toiminnalla tarkoitetaan yleensä pahantahtoista, eri keinoja yhdistelevää valtiollisen toimijan vaikutusta toiseen maahan.
Muita useammin hybridivaikuttamisen kohteeksi kokivat joutuneensa vihreiden, kokoomuksen ja SDP:n edustajat.
Ylen kyselyssä hybridivaikuttamisen kohteeksi koki joutuneensa 49 kansanedustajaa. Vastaajista 51 ei kokenut olleensa vaikuttamisyritysten kohteena, 30 ei osannut sanoa, oliko vaikuttamista ollut.
Kyselyyn vastanneista lukumääräisesti suurimmat kyllä-vastaukset tulivat kokoomuksen ja SDP:n eduskuntaryhmistä. Suhteellisesti eli eduskuntaryhmän kokoon nähden eniten hybridivaikuttamista oli koettu vihreiden ryhmässä, kun verrataan useamman edustajan puolueita toisiinsa.

Ylen kysely: kymmenet kansanedustajat kokevat joutuneensa hybridivaikuttamisen kohteeksi

Vihreiden, kokoomuksen ja SDP:n edustajat arvioivat muita useammin joutuneensa hybridivaikuttamisen kohteeksi. Perussuomalaiset kokivat tällaista vaikuttamista suurista puolueista vähiten.

yle.fi

 

[ctg]

Reports that ByteDance-owned social media platform TikTok is harmful to children are under investigation by a number of US attorneys general.

The investigation was announced on Wednesday by a bipartisan coalition of state attorneys general including those for California, Florida, Kentucky, Massachusetts, Nebraska, New Jersey, Tennessee, and Vermont.

The concern is that the algorithm, which determines what content others see, sends users, youths in particular, down an addictive and harmful rabbit hole.

"Our children are growing up in the age of social media – and many feel like they need to measure up to the filtered versions of reality that they see on their screens," said California attorney general Rob Bonta. "We know this takes a devastating toll on children's mental health and well-being. But we don't know what social media companies knew about these harms and when."

Or as Massachusetts attorney general Maura Healey put it, the coalition is "examining whether the company violated state consumer protection laws and put the public at risk."

The offices of both Bonta and Healey said the investigation focuses on TikTok's techniques for boosting user engagement in youths, including strategies employed to increase the duration of time spent on the platform.

The investigation builds on another launched by the coalition last November into harms caused by Meta's Instagram after reports surfaced of internal research that said its use was associated with increased physical and mental health harms.

This week US president Joe Biden called for a ban on social networks serving ads targeted at children in his State of the Union speech.

"It's time to strengthen privacy protections, ban targeted advertising to children, demand tech companies stop collecting personal data on our children," said Biden as Facebook whistleblower Frances Haugen sat in the audience.

Dangers associated with TikTok go beyond just internet addiction and depression, critics say, users on the site have been known to promote misinformation and extremist indoctrination.

US attorneys general probe TikTok for harms to children

Probe builds on one already in process for Instagram

www.theregister.com

 

[PeterFin]

sananvapaus laki on heidän puolellaan. Me emme halua elää yhteiskunnassa missä se on tukahdetettu. Sodanlietsominen on toinen asia ja siitä on pykäliä olemassa. En muista milloin sellaisesta olisi käyty tuomioistuimessa riitelemässä.

Mutta missä on raja jonka jälkeen sananvapaus muuttuu toisen valtion lukuun käytäväksi infosodaksi? Mm. Putkonen, Bäckman, kaiken maailman Vastavalkeat ja mikkoelot ovat aktiivisesti osoittaneet millä asialla ovat.

 

[ctg]

Mutta missä on raja jonka jälkeen sananvapaus muuttuu toisen valtion lukuun käytäväksi infosodaksi? Mm. Putkonen, Bäckman, kaiken maailman Vastavalkeat ja mikkoelot ovat aktiivisesti osoittaneet millä asialla ovat.

Omasta mielestä he ovat sen jo ylittäneet. Todisteita on riittävästi.

 

[EkaVekara]

TV:tä kun katselee, niin Suomenkin asiantuntijoilla (UPI, armeija) näyttää olevan tarkat tiedot siitä mitä Ukrainan missäkin maan kolkassa tapahtuu. Mistä he nämä tiedot saa?

En tiedä avataanko tätä sodan jälkeen mahdollisesti enemmän, mutta itseäni kiinnostaa kuinka keskitetysti lännen disinformaatiota johdetaan. Olen miettinyt, että Venäjällä ei varmaan ole saatavissa omilta joukoiltaan kovinkaan selkeää tilannekuvaa (kommunikaatio ja johtamisongelmat ovat selkeitä ainakin johdolta toteuttavaan portaaseen, joten miksei myös toiseen suuntaan) ja niinpä nojataan vahvasti OSINT-tietoon. Tästä johtuen olisi järkeen käypää, että OSINT-tietoa pyrittäisiin ihan johdonmukaisesti kontrolloimaan länsivaltojen osalta. Tälläisessä tapauksessa erityisesti akkreditoidut asiantuntijat olisi loogisesti tälläisen ohjeistuksen ja johtamisen piirissä.

En nyt halua tähän nostaa mitään esimerkkejä sattuneista syistä, mutta tiettyä värittyineisyyttä on ollut havaittavissa jo ennen konfliktin siirtymistä jäätyneestä ns. kuumaksi.

 

[ctg]

Elektroniseen sodankäyntiin ja häirintään on mahdollista varautua, mutta sen torjuminen on fyysisesti lähes mahdotonta, muistuttaa Ulkopoliittisen instituutin johtava tutkija Charly Salonius-Pasternak.

– Erillään on paljon laajempi kyberturvallisuus – ja puolustus. Vaikka Suomella on kaikki maailman potentiaali, ongelmana on, että on mietitty ”mitä voisi tehdä” kun sen sijaan pitäisi miettiä ”mitä pitää tehdä”.

A-studiossa keskiviikkona vierailleen Salonius-Pasternakin mielestä valtionhallinnon pitää uudelleen organisoitua niin, että on selvää, kuka kyberpuolustaa Suomea – sekä valtion järjestelmiä että yksityistä infrastruktuuria. Tässä on hänen mukaansa Ukrainasta paljon opittavaa.
– Kyberpuolustus on lapsen kengissä. Suomessa sitä pitäisi miettiä samalla tavalla kuin puolustusvoimien fyysistä puolustusta, mitkä ovat uhat ja mitkä ovat tarpeet – ja sitten kansakuntana tehdään se yhdessä.

Puolustusvaliokunnan varapuheenjohtaja Jari Ronkainen (ps.) pitää tärkeänä, että kyberturvallisuuteen liittyvää lainsäädäntöä katsotaan kokonaisuutena uudelleen. Hän tukee Salonius-Pasternakin näkemystä siitä, että hallinnon siiloutuminen on esteenä kyberturvallisuuden kehittämiselle.

Eduskunnan nopealla aikataululla valmistelema ja hyväksymä tiedusteluinsäädäntö on vienyt kyberturvallisuutta eteenpäin, sanoo puolustusvaliokunnan jäsen Mika Kari (sd.). Lainsäädäntö on lisännyt viranomaisten tiedonvaihtoa ja yhteistyötä.

– Kyberuhat eivät koske vain valtionhallintoa, vaan myös yksityistä sektoria, ihan tavallisia kansalaisiakin. Enemmän yhteistyötä, vähemmän siiloja ja taloudellista satsausta, Kari listaa.

Johtava tutkija hoputtaa selkeitä toimenpiteitä kyberturvallisuuden parantamiseksi Suomessa

Poikkeuksellisen runsaat häiriöt lentoliikenteelle tärkeässä gps-järjestelmässä ovat nostaneet keskusteluun Suomen kyberturvallisuuden.

yle.fi

Haluaisin sanoa jotakin mutta on ehkä parempi että olen hiljaa.

 

[magitsu]

AdminLeo: OnlyFans Owner's Dubious Financial History

Leonid Radvinsky has built an online operation of pornography worth well over $1 billion, including the uber-popular Onlyfans.

forensicnews.net

Jännästi ukrainalaistaustainen tämäkin.

When Radvinsky was a child, his family emigrated from Ukraine to a suburb outside of Chicago. His father, Savely Radvinsky, was well-off himself, though the source of that wealth remains a mystery even for those who know him well.

Two sources who had business relationships with Savely Radvinsky and spoke with Forensic News under condition of anonymity to more freely discuss the situation said that there were rumblings that Radvinsky had powerful connections in Odessa, Ukraine in the 1990s after the collapse of the Soviet Union.

“Rumor has it that his initial capital is somewhat from shady schemes back in the early 90s,” one of the sources told Forensic News. “Doing business in the post-USSR Ukraine was all about hat-trick magic.”

 

[magitsu]

Propaganda masterclass-ketju.

https://twitter.com/x/status/1505620479171780611

https://twitter.com/x/status/1505621120715796486

https://twitter.com/x/status/1505621843549556745

 

[ctg]

Seinäjoen ammattikorkeakoulun yliopettaja, tutkija ja tietokirjailija Ari Haasio tutkii muun muassa disinformaatiota, sosiaalista mediaa ja vihapuhetta.

Haasio, kuten moni muukin, pani helmikuussa merkille, että parin vuoden somekuohunnan jälkeen koronakeskustelut hiljenivät lähes täydellisesti samantien, kun Venäjän hyökkäys Ukrainaan alkoi.

– Meillä oli voimakas koronauutisointi ja päivittäinen seuranta, ihmiset puhuivat koronasta – ja sitten räjähti Ukrainassa. Tänä päivänä sitä, montako koronatapausta on, ei enää oteta etusivun uutisena esiin, vaan Ukraina on syrjäyttänyt sen, Haasio sanoo.

Vaikka verkossa liikkuu valtavasti väärää tietoa, tutkija ei palaisi aikaan ennen somea: "Saatiin vähemmän informaatiota, mutta oliko sekään silti totuus"

Ennen oli vähemmän tiedonlähteitä, mutta niidenkin sisällöt erosivat toisistaan. Disinformaatiota tutkinut tietokirjailija Ari Haasio peräänkuuluttaakin edelleen ihmisten vastuuta tiedon jakamisessa.

yle.fi

 

[runtik]

Epäilen, että sairaanhoitajien johtopuolella on pro-venäjä henkilöitä. Alla perusteluja:

-Somessa ryhmissä levitetty rokotevastaista kritiikkiä
-Lakko ajoitettu Suomen NATO-keskustelun alle
-Ano Turtiaiselle pyydetty lähettämään kukkia
-Sairaanhoitajia oli mukana Convoy-mielenosoituksessa
-Convoy-mielenosoituksen sairaanhoitajataustahahmo oli VKK:n tukimedia LEVELin haastattelussa

En väitä, että sairaanhoitajat ryhmänä olisivat pro-venäjä vaan että näiden liikkeiden takana on pro-venäjä ajattelua. Venäjällä on myös sitä taitavampaa hybridivaikuttamista!

Alla linkki, jossa maininta sairaanhoitajien kukkakampanjasta Ano Turtiaiselle.

Tällaista keskustelua suomalaiset koronarokotevastaiset hoitajat ja lääkärit käyvät suljetussa Telegram-ryhmässä

Suljetussa sosiaali- ja terveydenhoitoalan ammattilaisten ryhmässä kuohutaan "rokotuspakosta" ja siitä, että koronarokotteiden haittoja salaillaan tai vähätellään. Yle Uutiset tarkisti väitteet, ja ne ovat huteralla pohjalla.

yle.fi

 

[ctg]

– Haloo.

Näin vastaa puhelimeen hieman alle kolmekymppinen Antti.

Hänestä ei kerrota soittajalle muuta kuin etunimi. Edes puhelinnumero, johon Antti vastaa, ei ole hänen omansa.

Antin henkilöllisyyttä ei paljasteta, sillä hän kybervarusmies.

Puolustusvoimat on jo vuodesta 2015 lähtien kouluttanut varusmiehiä kyberpuolustuksen erityistehtäviin. Käytännössä se tarkoittaa muun muassa Puolustusvoimien omien tietoverkkojen suojaamista ulkopuolisilta uhilta.

Siihen valmistautuu nyt myös Antti. Hän päätyi kybervarusmieheksi Karjalan prikaatissa viettämänsä alokaskauden jälkeen.

– Katselin, millaisia hommia nykyään löytyy. Onko [palvelus] automaattisesti panssarintorjuntaa, vai voisiko löytyä jotain sellaista, joka vastaisi omaa ammattitaitoa ja kiinnostusta.

Kybervarusmies uskaltaa venyttää ja rikkoa rajoja, sanoo eliittijoukkoon kuuluva Antti – hänen kaltaisiaan Suomi etsii nyt palvelukseen

Puolustusvoimat on uudistanut kybervarusmiesten koulutuksen. Nyt eliittijoukkoon haetaan suoraan erikoisjoukkohaussa jo ennen varusmiespalvelukseen astumista.

yle.fi

 

[ctg]

Russia is receiving munitions and military hardware sourced from Iraq for its war effort in Ukraine with the help of Iranian weapons smuggling networks, according to members of Iranian-backed Iraqi militias and regional intelligence services with knowledge of the process.

RPGs and anti-tank missiles, as well as Brazilian-designed rocket launcher systems, have been dispatched to Russia from Iraq as Moscow’s campaign has faltered in the last month, the Guardian has learned.

An Iranian-made Bavar 373 missile system, similar to the Russian S-300, has also been donated to Moscow by the authorities in Tehran, who also returned an S-300, according to a source who helped organise the transport.

Using the weapons-trafficking underworld would signal a dramatic shift in Russian strategy, as Moscow is forced to lean on Iran, its military ally in Syria, following new sanctions triggered by the invasion of Ukraine.

The developments also have huge implications for the direction and volume of trade in the international weapons trafficking business.

Russia ‘using weapons smuggled by Iran from Iraq against Ukraine’

Iraqi militias and others say undercover networks being used to supply materiel such as RPGs and anti-tank missiles

www.theguardian.com

Three cargo ships capable of carrying such loads – two Russian flagged and one Iranian flagged – crossed the Caspian Sea from Iran’s port of Bandar Anzali to Astrakhan, a Russian city on the Volga delta, within the timeframes outlined.

“What the Russians need in Ukraine right now is missiles. These require skill to transport as they’re fragile and explosive, but if you are committed to doing it, it’s possible,” said Yörük Işık, an Istanbul-based maritime affairs expert. “It’s also not the kind of activity that would be picked up by satellite imagery as they can be transported in large boxes and regular shipping containers.”

Mohaned Hage Ali, a fellow at the Carnegie Middle East Center, said: “That kind of sophisticated weaponry [rocket launcher systems] would make a big difference on the ground in Ukraine. Ḥashd al-Shaabi controls much of the border region with Iran, which would make this transaction easier.

“Other countries such as China are having to be very careful about giving weapons to Russia now, given the new sanctions situation. And Iran, as part of that axis, wants to make sure Russia doesn’t lose ground in this conflict.

“If the Putin regime is destabilised that has huge implications for Iran, particularly in Syria, where Damascus is dependent on Russian air support and Russia coordinates to avoid direct conflict between them and Israel.”

 

[ctg]

Andriy Biletsky, the leader of the Azov volunteer regiment, claimed on Monday that three people in the southern port city had experienced “poisoning by warfare chemicals, but without catastrophic consequences”. However, Petro Andryushchenko, an aide to the Mariupol’s mayor wrote that a chemical attack had not been confirmed and that officials were “waiting for official information from the military”.

UK foreign secretary Liz Truss said work was under way to verify the claim, adding: “Any use of such weapons would be a callous escalation in this conflict and we will hold [Vladimir] Putin and his regime to account.”

Pentagon spokesperson John Kirby said he was aware of the reports but could not confirm them. “These reports, if true, are deeply concerning and reflective of concerns that we have had about Russia’s potential to use a variety of riot control agents, including teargas mixed with chemical agents, in Ukraine,” he said.

Ukraine president warns of ‘new stage of terror’ as west probes chemical weapons claims

Volodymyr Zelenskiy taking chemical weapons threat ‘seriously’ as Mariupol mayor says thousands have died in devastated port city

www.theguardian.com

 

[Sleeper_agent]

Ehdottomasti tämä menee osastoon mielipidevaikuttaminen, ja keinona vielä niinkin vanhanaikainen taktiikka kuin usean tilin (altterin) luonti, ja niillä uudelleen twiittaaminen. Oonkin itsekseni miettinyt, että miten nuo twitterin putinistit saavat niinkin paljon näkyvyyttä, mutta tämä selittää:

https://twitter.com/x/status/1521911748617551876

 

[ctg]

False-flag cyberattacks represent a red line that even nation states like Russia and China don't want to cross, according to Mandiant CEO Kevin Mandia.

"It's one of the last rules of the playground that a modern nation may not want to break because they don't want everyone doing false flags," he said, speaking on a panel this week at Vanderbilt University's Summit on Modern Conflict and Emerging Threats.

In these types of destructive cyber operations, a country launches an attack with the intent of disguising its involvement and pinning the blame on another country.

"People worry about false flags," NSA director of cybersecurity Rob Joyce said, adding that "I don't know of a big one" that has been successful.

Mandiant CEO: False-flag ops a red line for nation-states

NSA director says he doesn't know of a 'big one' that was successful

www.theregister.com

 

[ctg]

Researchers are marveling at the scope and magnitude of a vulnerability that hackers are actively exploiting to take full control of network devices that run on some of the world's biggest and most sensitive networks.

The vulnerability, which carries a 9.8 severity rating out of a possible 10, affects F5’s BIG-IP, a line of appliances that organizations use as load balancers, firewalls, and for inspection and encryption of data passing into and out of networks. There are more than 16,000 instances of the gear discoverable online, and F5 says it’s used by 48 of the Fortune 50. Given BIG-IP's proximity to network edges and their functions as devices that manage traffic for web servers, they often are in a position to see decrypted contents of HTTPS-protected traffic.

Last week, F5 disclosed and patched a BIG-IP vulnerability that hackers can exploit to execute commands that run with root system privileges. The threat stems from a faulty authentication implementation of the iControl REST, a set of web-based programming interfaces for configuring and managing BIG-IP devices.

“This issue allows attackers with access to the management interface to basically pretend to be an administrator due to a flaw in how the authentication is implemented,” Aaron Portnoy, the director of research and development at security firm Randori, said in a direct message. “Once you are an admin, you can interact with all the endpoints the application provides, including execute code.”

Images floating around Twitter in the past 24 hours show how hackers can use the exploit to access an F5 application endpoint named bash. Its function is to provide an interface for running user-supplied input as a bash command with root privileges.

Hackers are actively exploiting BIG-IP vulnerability with a 9.8 severity rating

Flaw in widely used gear from F5 executes root commands, no password necessary.

arstechnica.com

 

[ctg]

US President Joe Biden has signed into law a bill that aims to improve how the federal government tracks and prosecutes cybercrime.

The Better Cybercrime Metrics Act, which Biden signed late last week, requires the Department of Justice to work with the National Academy of Sciences to develop a taxonomy that law enforcement can use to categorize different types of cybercrime.

It also gives the Department of Justice two years to establish a category in the National Incident-Based Reporting System for the collection of cybercrime reports from federal, state, and local officials.

Additionally, it requires the Government Accountability Office to report on the effectiveness of existing cybercrime mechanisms and highlight disparities in reporting cybercrime data versus other types of crime data.

And it requires the National Crime Victimization Survey to add questions related to cybercrime in its surveys.

A bipartisan majority of the US House voted to pass the legislation in March, and the Senate passed the companion bill in December 2021.

Government agencies, including the FBI's Internet Crime Complaint Center (IC3), already track and report cybercrime metrics, and by its accounts these types of crimes cost victims billions of dollars every year.

In its most recent IC3 report, the bureau said 2021 set records for the total number of complaints (847,376) as well as losses exceeding $6.9 billion, a jump from the $4.2 billion reported a year earlier.

Still, proponents of the law say the large majority of cybercrimes are not reported or tracked. At least one estimate puts IC3's incident collection at about one in 90 of all cybercrimes committed.

Better cybercrime tracking at the federal level will help law enforcement identify threats and prevent attacks, said House Rep Abigail Spanberger (D-VA), who co-authored the bill.

"As cybercriminals increasingly adapt their methods of attack against vulnerable people and networks, the United States must improve our cybercrime classification system," she said in a canned statement. "Otherwise, we are risking the safety and privacy of American families, homes, businesses, and government agencies."

Biden signs cybercrime tracking bill into law

All part of a larger push by the Feds to improve cybersecurity reporting

www.theregister.com

 

[ctg]

Until recently, it wasn’t possible to say that AI had a hand in forcing a government to resign. But that’s precisely what happened in the Netherlands in January 2021, when the incumbent cabinet resigned over the so-called kinderopvangtoeslagaffaire: the childcare benefits affair.

When a family in the Netherlands sought to claim their government childcare allowance, they needed to file a claim with the Dutch tax authority. Those claims passed through the gauntlet of a self-learning algorithm, initially deployed in 2013. In the tax authority’s workflow, the algorithm would first vet claims for signs of fraud, and humans would scrutinize those claims it flagged as high risk.

In reality, the algorithm developed a pattern of falsely labeling claims as fraudulent, and harried civil servants rubber-stamped the fraud labels. So, for years, the tax authority baselessly ordered thousands of families to pay back their claims, pushing many into onerous debt and destroying lives in the process.

“When there is disparate impact, there needs to be societal discussion around this, whether this is fair. We need to define what ‘fair’ is,” says Yong Suk Lee, a professor of technology, economy, and global affairs at the University of Notre Dame, in the United States. “But that process did not exist.”

Postmortems of the affair showed evidence of bias. Many of the victims had lower incomes, and a disproportionate number had ethnic minority or immigrant backgrounds. The model saw not being a Dutch citizen as a risk factor.

“The performance of the model, of the algorithm, needs to be transparent or published by different groups,” says Lee. That includes things like what the model’s accuracy rate is like, he adds.

The tax authority’s algorithm evaded such scrutiny; it was an opaque black box, with no transparency into its inner workings. For those affected, it could be nigh impossible to tell exactly why they had been flagged. And they lacked any sort of due process or recourse to fall back upon.

“The government had more faith in its flawed algorithm than in its own citizens, and the civil servants working on the files simply divested themselves of moral and legal responsibility by pointing to the algorithm,” says Nathalie Smuha, a technology legal scholar at KU Leuven, in Belgium.

As the dust settles, it’s clear that the affair will do little to halt the spread of AI in governments—60 countries already have national AI initiatives. Private-sector companies no doubt see opportunity in helping the public sector. For all of them, the tale of the Dutch algorithm—deployed in an E.U. country with strong regulations, rule of law, and relatively accountable institutions—serves as a warning.

“If even within these favorable circumstances, such a dangerously erroneous system can be deployed over such a long time frame, one has to worry about what the situation is like in other, less regulated jurisdictions,” says Lewin Schmitt, a predoctoral policy researcher at the Institut Barcelona d’Estudis Internacionals, in Spain.

So, what might stop future wayward AI implementations from causing harm?

The Dutch Tax Authority Was Felled by AI—What Comes Next?

European regulation hopes to rein in ill-behaving algorithms as China and the United States consider less intensive enforcement

spectrum.ieee.org

Tuntuuko tämä tarina tutulta? Kannattaa lukea koko juttu, mutta jos tarina tuntuu tutulta, niin mahdollisuus että valtiollinen lafka tekee samaa on hyvin suuri. Ihmiset ja niiden todellinen tilanne on toisisijainen asia tekoälylle, ja niitä ei edes lasketa mukaan koska tekoäly ei pysty hahmottamaan kokonaisuutta. Se vain tutkii numeroita parametriensa piirissä.