Turvallinen tekoäly ihmisten ehdoilla

Tekoälyn kehittämisessä turvallisuus ja vastuullisuus eivät ole sivuroolissa, vaan kaiken ytimessä. Vain ihmiskeskeisellä otteella, läpinäkyvyydellä ja käyttäjiä osallistamalla voidaan varmistaa, että tekoälyjärjestelmät tukevat yhdenvertaisuutta, oikeudenmukaisuutta ja hyvinvointia – ilman, että teknologia karkaa hallinnasta. Turvallinen tekoäly on yhteiskunnallinen valinta, jonka kehityksessä tarvitaan eettisiä periaatteita ja käytäntöjä.

Tekoälyn turvallisuus ei tarkoita palomuuria – se tarkoittaa reilua peliä. Tekoäly on tullut osaksi arkeamme, muuttaen työntekoa, päätöksentekoa ja jopa sosiaalista vuorovaikutusta. Usein keskustelu tekoälyn turvallisuudesta keskittyy teknisiin uhkiin: kyberhyökkäyksiin, datavuotoihin ja virheellisiin algoritmeihin. Tietoturvan, eli tiedon luottamuksellisuuden, eheyden ja saatavuuden varmistaminen on tekoälyn hyödyntämisessä tärkeää.  Käyttäjätutkijana kuitenkin ajattelen, että turvallisuus ulottuu kuitenkin paljon syvemmälle. Se ei ole vain hyvää koodia, vaan tekoälyn kykyä toimia vastuullisesti ja reilusti yhteiskunnassa.  

Turvallisuuden perusta ei ole teknologia, vaan luottamus. Ilman luottamusta käyttäjät eivät ota teknologiaa omakseen, jolloin se on hyödytön. Luottamus syntyy, kun tekoälyjärjestelmä on läpinäkyvä, vastuullinen ja reilu, ja toimii odotetulla tavalla. Tekoäly tuntuu turvalliselta vain, jos voimme luottaa siihen, että se palvelee meitä, eikä toimi meitä vastaan. 

Käyttäjälähtöinen kehitys varmistaa turvallisen kokemuksen 

Turvallisuus ihmiskeskeisessä tekoälykehityksessä vaatii meitä kyseenalaistamaan entisiä ajatuksia. Kehitystyössä ei voi tyytyä pelkkiin oletuksiin, vaan tietoa on etsittävä suoraan käyttäjiltä. Tällöin työkalupakista on otettava käyttöön ne perinteiset oikeita loppukäyttäjiä osallistavat menetelmät: kyselyt, haastattelut, käyttäjätestit. Niiden avulla päästään kiinni siihen, miten ihmiset oikeasti käyttävät teknologiaa ja mitä tunteita käyttö herättää – etenkin tekoälyn käyttö.  

Kehitysprosessissa on tärkeää ymmärtää, miten ihmisten arvot ja yhteiskunnalliset rakenteet heijastuvat teknologiaan. Tekoälyjärjestelmät oppivat valtavista datamääristä, jotka usein heijastavat yhteiskunnan ennakkoluuloja ja epätasapainoa, jopa vanhentuneita ajatusmalleja, jolloin tuloksena voi olla algoritminen syrjintä. Järjestelmä voi oppia, että tietyt ihmisryhmät esimerkiksi ansaitsevat huonomman luottoluokituksen tai pääsevät harvemmin työhaastatteluun.  

Turvallinen tekoäly on ennustettava ja ymmärrettävä. Käyttäjän on tiedettävä, miksi tekoäly tekee tietyn päätöksen. Tämän takia selitettävyys (explainable AI, XAI) on niin tärkeää. Käyttäjällä tulee olla tunne hallinnasta ja turvallisuudesta. Kuten edellisessä blogikirjoituksessamme sanoimme, ihmiskeskeinen suunnittelu varmistaa, että järjestelmä on helppokäyttöinen ja jättää tilaa inhimilliselle harkinnalle ja kontrollille. Tämä on suoraan vastakkainen lähestymistapa "mustien laatikoiden" kehittämiselle, joihin kukaan ei voi todella luottaa.  

Eettinen kehys ja jatkuva prosessi 

Turvallisuutta ei voi lisätä valmiiseen tuotteeseen. Se on sisäänrakennettava alusta alkaen, osana suunnittelua. Euroopan unioni on tunnistanut tämän tarpeen ja asettanut tekoälylle tiukat vaatimukset. EU:n tekoälysäädöksessä linjataan, että esimerkiksi tietyt käytännöt, kuten "sosiaalinen pisteytys", on kielletty, koska se uhkaa ihmisten oikeuksia ja turvallisuutta. Turvallisuus onkin yhä enemmän myös lakisääteinen vaatimus. 

Vastuullisuuden vaatimus menee turvallisuusvaatimuksia pidemmälle: se edellyttää järjestelmän moraalisen kestävyyden varmistamista ja sen eettisten periaatteiden jatkuvaa arviointia ja soveltamista koko tuotteen elinkaaren ajan. Tällöin tavoitteena on aktiivisesti tunnistaa ja purkaa esimerkiksi algoritmisesta syrjinnästä johtuvia yhteiskunnallisia ennakkoluuloja, jotka ovat peräisin tekoälyn koulutusaineistoista. Sen huomioiminen vaatii kehittäjiltä ja tutkijoilta paitsi teknistä osaamista, myös herkkyyttä sosiaalisille ja eettisille kysymyksille. Tekoäly on ihmisten luoma, ja ihmiset ovat vastuussa sen toiminnasta.  

Turvallisempi tulevaisuus 

Turvallinen tekoäly on enemmän kuin teknologinen saavutus – se on yhteiskunnallinen valinta. Se syntyy, kun teknologia, käyttäjäymmärrys ja sosiaalinen tietoisuus kohtaavat. Turvallisen tekoälyn kehittäminen vaatii moniammatillisia tiimejä, joissa koodin taitajat työskentelevät rinta rinnan sosiologien ja käyttäjätutkijoiden kanssa. 

Lopulta, tekoälyn on tarkoitus tukea ihmisten potentiaalia ja edistää hyvinvointia, ei vain tehostaa toimintoja. Luottamuksen rakentaminen, ennakkoluulojen purkaminen ja käyttäjien ymmärtäminen ovat avaimet turvallisen ja kestävän tekoälytulevaisuuden luomiseen.