DEEP Measures varmisti tekoälyratkaisunsa tietoturvan ennen käyttöönottoa – Netumin toteuttama testaus auttoi tunnistamaan uuden teknologian riskejä
Tekoälypohjaisten sovellusten yleistyessä organisaatioiden tietoturvahaasteet muuttuvat. Kielimallien tietoturvatestaus edellyttää perinteisestä penetraatiotestauksesta poikkeavaa osaamista, jossa korostuu mallien käyttäytymisen ymmärtäminen. Netum testasi lääketeollisuudelle ohjelmistopalveluita tuottavan DEEP Measuresin AI-chatbotin tietoturvan tason.
DEEP Measures on suomalainen ohjelmistoyhtiö, jonka verkkopalvelu auttaa lääkeyrityksiä hyödyntämään terveysteknologioita kliinisissä lääketutkimuksissa. Netum oli jo vuotta aiemmin toteuttanut tietoturvatestauksen yrityksen kehittämään verkkopalveluun, mutta nyt oli kyseessä ensimmäinen tekoälytoiminnallisuuksia sisältävän palvelun testaus. Tavoitteena oli varmistaa, että AI-chatbot olisi asiakkaille turvallinen.
DEEP Measuresin teknisen johtajan Tony Riistaniemen mukaan tekoälypohjaisten chatbotien yksi suurimpia tietoturvariskejä on väärinkäytön uhka.
— Chatbotia voi yrittää harhauttaa esimerkiksi koodaukseen liittyvissä asioissa, pyytämällä sen paljastamaan arkaluontoisia asioita ja valjastaa se käyttöön, johon sitä ei ole tarkoitettu, Riistaniemi kertoo.
Netum hyödynsi testauksessa OWASPin Top 10 for LLM Applications -viitekehystä ja muita AI-tietoturvan testauskäytäntöjä. Keskeistä oli niiden soveltaminen juuri asiakkaan ratkaisuun. Projektin tietoturva-asiantuntijana toiminut Joni Koskinen kertoo tekoälysovellusten tietoturvatestauksen olevan vielä verrattain uusi alue, joka vaatii erityistä luovuutta ja jossa vakiintuneita käytäntöjä on vähemmän kuin perinteisessä penetraatiotestauksessa.
— Perinteiset penetraatiotestaukset ovat luonteeltaan hyvin teknisiä ja niihin on olemassa vakiintuneet menetelmät. Tekoälysovellusten tietoturvatestauksessa sen sijaan ei tarvitse ruveta perkaamaan yhteyksiä tai salauksia, vaan chatbotille annetaan esimerkiksi tekstipohjaisesti syötteitä ja yritetään huijata sitä. Yhtenä tavoitteena on muotoilla tekstisyötteet niin, että paljastuu, miten bottia voisi käyttää väärin. Tässä saa käyttää runsaasti mielikuvitusta, Koskinen sanoo.
Tekoälysovellusten testauksessa korostuu teknisen osaamisen lisäksi luova kyky johdatella kielimallia erilaisilla syötteillä ja tunnistaa odottamatonta käyttäytymistä.
— Asiakkaille voi tulla yllätyksenä, kuinka monella eri tavalla bottia voi johdatella aiheen ulkopuolelle ja houkutella ei-määriteltyihin tehtäviin, jatkaa Koskinen.
Jatkuvuus tuo tehokkuutta
Tietoturvatestauksen lopputuloksena asiakkaalle luovutetaan raportti, jonka avulla asiakas saa kokonaiskuvan tekoälysovelluksen keskeisistä riskeistä ja konkreettiset suositukset niiden hallintaan. Netumin tietoturva-arkkitehti Tapani Höök nostaa esiin sen, että tekoälysovellusten yleistyessä organisaatioiden on tunnistettava uudenlaisia riskejä, joita perinteinen tietoturvatestaus ei yksin kata, ja jotka tulee huomioida osana kokonaisvaltaista tietoturvatestausta.
— DEEP Measuresin tapauksessa aikaisemmin toteutettu perinteinen tietoturvatestaus loi hyvän perustan tekoälysovelluksen testaukselle. Tämä mahdollisti nopean ja kohdennetun etenemisen AI-chatbotin kanssa. Asiakas on ymmärtänyt pitkäjänteisen työn merkityksen tietoturvakysymyksissä. Projekti oli toteutukseltaan kustannustehokas, koska kaikkea ei tarvinnut aloittaa alusta, Höök sanoo.
Riistaniemi DEEP Measuresilta kertoo positiivisimmaksi yllätykseksi testauksessa sen, ettei vakavia löydöksiä tullut. Muutaman pienemmän mittakaavan löydöksen ohella AI-tietoturvatestaus antoi paljon ajattelemisen aihetta.
— Tekoäly on varsin uusi asia ja kehittynyt niin nopeasti, että asiantuntijan rooli korostuu tietoturvatestauksessa. Vaikka itsellänikin on jo yli kahdenkymmenen vuoden kokemus tietoturva-asioista, on kielimallin toiminta siltikin jonkinlainen mysteeri. Netumin AI-tietoturvatestauksen ansiosta pääsimme pohtimaan, mitä kaikkea tämän kanssa voisi tapahtua. Sain ahaa-elämyksiä projektin aikana, Riistaniemi kertoo.
Riistaniemi on erittäin tyytyväinen projektin läpivientiin ja Netumin ammattitaitoon.
— Ei minulla ole mitään moitittavaa, kaikki sujui täsmälleen kuten oli sovittukin. Netumilaiset ovat lisäksi ystävällistä porukkaa ja yhteydenpito on aina sujuvaa, Riistaniemi sanoo.
Myös Netum allekirjoittaa yhteistyön mutkattomuuden. Koskinen kehuu asiakasta kaukonäköisyydestä tietoturvan parantamiseen.
— Asiakas on sisäistänyt juuri oikean asenteen tietoturvaan: siihen kannattaa panostaa systemaattisesti ja mieluummin etukenossa kuin liian myöhään. Jatkuvuus tietoturvan ylläpitämisessä ja kehittämisessä on kaiken a ja o.