HiQ berättar för MKSE.com de fått i uppdrag att stötta Svenska Spel när de inför agentbaserad AI på ett mer säkert och kontrollerat sätt. Det är just säkerheten som är nyckel här, fokus är att skapa en mer framtidssäkrad miljö där autonoma agenter kan användas tryggt, med tydlig styrning och full kontroll inom Svenska Spel.
”– Svenska Spel agerar helt rätt som säkrar grunden innan agentbaserad-AI skalas upp. Medan traditionell AI främst hjälper till med svar och rekommendationer, kan autonoma agenter ta initiativ och genomföra uppgifter själva, vilket ökar attackytan .. Vi kopplar riskerna med autonoma agenter till konkreta kontroller, genomtänkta arkitekturval och utvecklarnas vardag. Riskerna kan till exempel handla om breda behörigheter, kedjade verktygsanrop och beslut som fattas utan mänsklig inblandning.”
Säger Pernilla Rönn, affärsområdeschef för cybersäkerhet på HiQ. För att utvecklare och verksamheter ska kunna dra nytta av teknikens möjligheter utan att tappa kontrollen krävs en säkerhetsstruktur som är på plats från början. Inom ramen för uppdraget etablerar HiQ tillsammans med Svenska Spel säkerhetsprinciper för agentmiljön.Nu tas riktlinjer för godkända AI-agenter och verktyg, samt en strukturerad risk- och kontrollmatris för användning av autonom AI fram.