AI Nieuws 30 april 2025

By Djimit

• EU Publiceert Concept Technische Standaarden voor Auditing van Hoog-Risico AI

• Bron: European Commission DG CONNECT / Euractiv – 29 april 2025

• Samenvatting: De Europese Commissie heeft gedetailleerde technische conceptnormen vrijgegeven voor het auditen van AI-systemen die onder de AI Act als ‘hoog-risico’ worden geclassificeerd. Deze normen specificeren documentatievereisten, testprocedures voor robuustheid en nauwkeurigheid, bias-detectie, en mechanismen voor menselijk toezicht. Stakeholders worden uitgenodigd feedback te geven. De focus ligt op concrete, verifieerbare compliance.

• Strategische Impact: Cruciaal voor organisaties die hoog-risico AI (gaan) inzetten binnen de EU. Vereist onmiddellijke analyse van interne governance, MLOps-processen en documentatie om aan de gedetailleerde auditvereisten te voldoen. Resource-intensief voor zowel ontwikkelaars als auditors; biedt kansen voor gespecialiseerde audit- en compliance-dienstverleners.

• Google DeepMind Onthult ‘Gemini-Pro 2.0’: Focus op Verbeterde Redenering en Efficiëntie

• Bron: Google DeepMind Blog – 30 april 2025

• Samenvatting: Google DeepMind heeft Gemini-Pro 2.0 gelanceerd, een significante update van hun multimodale model. De release claimt forse verbeteringen in logisch redeneren, wiskundige probleemoplossing en code-generatie, met een gerapporteerde 20% reductie in inference compute vergeleken met de vorige versie. Het model toont ook betere prestaties op benchmarks voor feitelijke nauwkeurigheid en het verminderen van ‘hallucinaties’. Toegang via API wordt gefaseerd uitgerold.

• Strategische Impact: Verhoogt de lat voor state-of-the-art LLM-prestaties, met name de balans tussen capaciteit en efficiëntie. Kan nieuwe, complexere enterprise-toepassingen mogelijk maken. Dwingt concurrenten te reageren en MLOps-teams moeten de integratie, kosten en potentiële fine-tuning evalueren voor specifieke use cases. De efficiëntieverbetering is relevant voor duurzaamheid en TCO.

• CISA Waarschuwt voor Toename AI-Gegenereerde ‘Deepfake Voice’ Aanvallen op Financiële Instellingen

• Bron: Cybersecurity and Infrastructure Security Agency (CISA) Alert – 29 april 2025

• Samenvatting: CISA rapporteert een significante stijging in geavanceerde social engineering-aanvallen waarbij AI wordt gebruikt om stemmen van executives of belangrijke klanten zeer overtuigend te klonen (‘deepfake voice’). Deze worden ingezet voor frauduleuze transactieverzoeken via telefoon. De verbeterde kwaliteit maakt detectie via traditionele methoden moeilijker. CISA adviseert strikte multifactor-authenticatie (MFA) voor (grote) transacties en gerichte security awareness training.

• Strategische Impact: Directe bedreiging voor de security-posture, met name in sectoren met hoge transactiewaarden. Vereist dringende herziening van authenticatieprotocollen (voorbij simpele stemherkenning) en intensivering van security training. Stimuleert R&D en implementatie van AI-gebaseerde detectiemechanismen specifiek gericht op synthetische media (audio/video). Impact op klantvertrouwen en operationele risico’s.Insight of the Day:

• Trend: De operationele realiteit van AI komt steeds scherper in beeld. Terwijl modelcapaciteiten blijven evolueren (zie Gemini-Pro 2.0), verschuift de strategische focus naar de implementatie-uitdagingen: voldoen aan strenge regulering (EU AI Act standaarden), het beveiligen tegen nieuwe AI-gedreven bedreigingen (deepfake voice), en het standaardiseren van de MLOps-praktijk voor robuuste en betrouwbare inzet. Governance en security zijn niet langer ‘nice-to-haves’, maar kritieke enablers.