AI nieuws 12 mei 2025

By Djimit

AI-doorbraak: Zelflerende modellen refactoren code autonoomMIT-onderzoekers hebben een nieuw zelfaanpassend algoritme gepresenteerd dat zonder menselijke supervisie code kan refactoren op schaal. Dit algoritme werkt niet door grotere modellen te bouwen, maar door bestaande LLMs te sturen met mathematische controles, zodat de gegenereerde code voldoet aan programmeerregels én de beoogde functionaliteit behoudt. Hierdoor wordt de accuraatheid van AI-gegenereerde code significant verhoogd zonder extra compute-kosten of post-hoc correcties. De aanpak is vooral relevant voor MLOps en AI-native DevSecOps, omdat het automatisering vergroot en de afhankelijkheid van menselijke code reviews verlaagt.Voor security- en cloudprofessionals betekent dit een versnelling van autonome softwareontwikkeling, maar menselijke validatie blijft voorlopig noodzakelijk vanwege het risico op semantische fouten[1].

EU AI Act: definitieve lijst high-risk AI-toepassingen en uitbreiding toezichtDe Europese Commissie heeft de definitieve lijst van high-risk AI-toepassingen gepubliceerd. Nationale toezichthouders krijgen meer bevoegdheden. De AI Act kent een gefaseerde implementatie:

• Sinds 2 februari 2025 zijn verboden AI-systemen (zoals social scoring, emotieherkenning op werk/onderwijs, en ongerichte biometrie) daadwerkelijk verboden.

• Vanaf augustus 2025 gelden de regels voor general-purpose AI-modellen (zoals foundation models en LLMs).

• Vanaf augustus 2026 moeten alle high-risk AI-systemen compliant zijn, inclusief verplichte logging, risicomanagement, menselijke oversight en robuustheid/cybersecurity-eisen.

• Specifiek voor providers van general-purpose AI-modellen zijn transparantie, technische documentatie en copyrightbescherming verplicht[2][5][7][9].

Impact:

• Directe gevolgen voor AI-governance, compliance en legal risk management in Europa.

• Organisaties moeten hun AI-systemen classificeren en voorbereiden op audits en registratieverplichtingen.

• Voor cloudproviders en securityteams is het essentieel om technische en organisatorische maatregelen te treffen die aansluiten op de nieuwe toezichtstructuur.

Trend: Verschuiving naar Domeinspecifieke LLMs

De trend verschuift van generieke LLMs naar domeinspecifieke modellen met een lagere compute-footprint. Dit wordt gedreven door:

• Kostenoptimalisatie: Domeinspecifieke modellen zijn kleiner, goedkoper in gebruik en efficiënter te hosten, zeker in private cloud- of on-premises omgevingen[3][8].

• Regulatory alignment: Door modellen te trainen op sector-specifieke data en vocabulaire, kunnen organisaties beter voldoen aan compliance-eisen en het risico op bias/hallucinaties verlagen[6][8].

• Security & Data Control: Kleinere, gespecialiseerde modellen kunnen eenvoudiger intern worden gehost, waardoor gevoelige data niet de organisatie verlaat en het risico op datalekken afneemt[8].

Technische en strategische implicaties

Aspect Generieke LLMs Domeinspecifieke LLMs Compute-kosten Hoog Lager Accuraatheid Algemeen goed, matig op niche-taken Hoog op specialistische taken Data privacy Complex, vaak cloud Eenvoudiger on-prem of private cloud Compliance Algemeen, minder controle Beter af te stemmen op wet- en regelgeving Voorbeeld GPT-4, Llama 2 Med-PaLM 2, FinBERT, BioBERT

Tools zoals Hugging Face faciliteren deze trend:

• Makkelijk fine-tunen en delen van domeinspecifieke modellen via Model Hub.

• Ondersteuning voor private deployment en integratie met bestaande cloud- en security-architecturen[4].

Kritische Observaties

• AI-native DevSecOps krijgt een impuls door autonome code-refactoring, maar vereist blijvende menselijke validatie en security-audits[1].

• Compliance-complexiteit neemt toe door de gefaseerde implementatie van de AI Act. Organisaties moeten nu al hun AI-landschap inventariseren en governance-structuren aanpassen[2][5][9].

• Domeinspecifieke LLMs bieden een strategisch voordeel qua kosten, accuraatheid en compliance, maar vereisen investeringen in data governance, MLOps en security-by-design[6][8].

Aanbevelingen voor de doelgroep

• Start met een impactanalyse van de AI Act op alle bestaande en geplande AI-systemen.

• Investeer in het ontwikkelen of inkopen van domeinspecifieke LLMs, zeker voor sectoren met hoge compliance-eisen.

• Implementeer strikte monitoring, logging en auditability in de AI-ontwikkelstraat.

• Werk samen met juridische en compliance-teams om te anticiperen op toezicht en audits.

• Volg de ontwikkelingen rond de Code of Practice voor general-purpose AI in de EU en sluit aan bij sectorinitiatieven.

**Samenvatting:**De combinatie van autonome AI-codegeneratie en strengere Europese AI-regulering vraagt om een strategische, multidisciplinaire aanpak. Domeinspecifieke LLMs worden het nieuwe normaal voor organisaties die kosten, compliance en security willen optimaliseren.

Bronnen[1] MIT researchers tame AI code with new controls – ReversingLabs https://www.reversinglabs.com/blog/mit-researchers-tame-ai-coding[2] AI Act | Shaping Europe’s digital future – European Union https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai[3] 3 emerging trends in the LLM space (2025 Edition) – AI ML etc. https://www.aimletc.com/emerging-trends-in-the-llm-space/[4] What is Hugging Face? A Review of Its Key Features and Tools https://www.sapien.io/blog/what-is-hugging-face-a-review-of-its-key-features-and-tools[5] EU AI Act – Autoriteit Persoonsgegevens https://www.autoriteitpersoonsgegevens.nl/en/themes/algorithms-ai/eu-ai-act[6] Injecting Domain-Specific Knowledge into Large Language Models https://arxiv.org/html/2502.10708v1[7] EU AI Act: first regulation on artificial intelligence | Topics https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence[8] Key LLM Trends 2025: Transforming Federal Agencies & Beyond https://techsur.solutions/key-llm-trends-for-2025/[9] EU rules on trustworthy Artificial Intelligence systems (AI Act) https://business.gov.nl/amendment/artificial-intelligence-act/[10] 10 Key Breakthrough Technologies of 2025 – YouTube https://www.youtube.com/watch?v=srQwyArPnP8[11] [PDF] Software Analysis and Refactoring Using Probabilistic Modelling … https://etheses.whiterose.ac.uk/id/eprint/31177/1/Ioannis_Thesis_Final.pdf[12] MIT Technology Review – Fast-learning robots – LinkedIn https://www.linkedin.com/posts/mit-technology-review_fast-learning-robots-10-breakthrough-technologies-activity-7287865113720573953-JNyr[13] Helping robots practice skills independently to adapt to unfamiliar … https://news.mit.edu/2024/helping-robots-practice-skills-independently-adapt-unfamiliar-environments-0808[14] Artificial intelligence | MIT Technology Review https://www.technologyreview.com/topic/artificial-intelligence):-[15] How AGI is Revolutionizing Software Development – Imaginovation https://imaginovation.net/blog/how-agi-is-reshaping-software-development-world/[16] MIT Technology Review’s 2025 Breakthrough Technologies https://climatesolutions.news/technologies/mit-technology-reviews-2025-breakthrough-technologies[17] From LLMs to LLM-based Agents for Software Engineering – arXiv https://arxiv.org/html/2408.02479v1[18] Maintainable and reusable scientific software adaptation https://dl.acm.org/doi/10.1145/1960275.1960296[19] User-friendly system can help developers build more efficient … https://news.mit.edu/2025/user-friendly-system-can-help-developers-build-more-efficient-simulations-and-ai-models-0203[20] Article 6: Classification Rules for High-Risk AI Systems https://artificialintelligenceact.eu/article/6/[21] High-risk AI-systems and requirements – Kienhuis Legal https://www.kienhuislegal.nl/en/articles/high-risk-ai-systems-and-requirements[22] Complying with the EU AI Act in 2025: A Simple 6-Step Guide https://www.bearingpoint.com/en-nl/insights-events/blog/complying-with-the-eu-ai-act-in-2025-a-simple-6-step-guide/[23] Artificial Intelligence – Q&As – European Commission https://ec.europa.eu/commission/presscorner/detail/en/qanda_21_1683[24] The EU AI Act: A Quick Guide https://www.simmons-simmons.com/en/publications/clyimpowh000ouxgkw1oidakk/the-eu-ai-act-a-quick-guide[25] Commission publishes the Guidelines on prohibited artificial … https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act[26] The Current Status of the AI Act: Navigating the Future of AI … – Stibbe https://www.stibbe.com/publications-and-insights/the-current-status-of-the-ai-act-navigating-the-future-of-ai-regulation[27] Exploring How LLMs Capture and Represent Domain-Specific … https://openreview.net/forum?id=9tMzqRaEL3[28] Fine-tune a SmolLM on domain-specific synthetic data from a LLM https://huggingface.co/blog/davidberenstein1957/fine-tune-a-smollm-on-synthetic-data-of-llm[29] AI in the workplace: A report for 2025 – McKinsey & Company https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/superagency-in-the-workplace-empowering-people-to-unlock-ais-full-potential-at-work[30] deep-learning-pytorch-huggingface/training/fine-tune-llms-in-2025 … https://github.com/philschmid/deep-learning-pytorch-huggingface/blob/main/training/fine-tune-llms-in-2025.ipynb[31] Daily Papers – Hugging Face https://huggingface.co/papers?q=financial+domain[32] Top LLM Trends 2025: What’s the Future of LLMs – Turing https://www.turing.com/resources/top-llm-trends[33] #81: Key AI Concepts to Follow in 2025 – Hugging Face https://huggingface.co/blog/Kseniase/fod81[34] Small language models: 10 Breakthrough Technologies 2025 https://www.technologyreview.com/2025/01/03/1108800/small-language-models-ai-breakthrough-technologies-2025/[35] The Download: Our 10 Breakthrough Technologies for 2025 https://www.technologyreview.com/2025/01/06/1109772/the-download-our-10-breakthrough-technologies-for-2025/[36] What’s next for AI in 2025 | MIT Technology Review https://www.technologyreview.com/2025/01/08/1109188/whats-next-for-ai-in-2025/[37] 10 Breakthrough Technologies 2025 | MIT Technology Review https://www.linkedin.com/posts/mit-technology-review_10-breakthrough-technologies-2025-activity-7281007684223397889-lAkS[38] MIT Identifies 10 Game-Changing Technologies For 2025 https://ctrlf5.software/blog/mit-identifies-10-game-changing-technologies-for-2025/[39] Why 2025 may be the year of small AI – Marketplace https://www.marketplace.org/episode/why-2025-may-be-the-year-of-small-ai[40] The Future of Programming in the Age of Advanced AI https://www.linkedin.com/pulse/future-programming-age-advanced-ai-how-breakthroughs-ramachandran-4cyie[41] EU Artificial Intelligence Act | Up-to-date developments and … https://artificialintelligenceact.eu[42] EU AI Act – Responsible AI – Transformation – PWC.nl https://www.pwc.nl/en/topics/transformation/artificial-intelligence/responsible-ai/eu-ai-act.html[43] EU AI Act: Risk-Classifications of the AI Regulation – trail https://www.trail-ml.com/blog/eu-ai-act-how-risk-is-classified[44] The European Union’s Artificial Intelligence Act: A New Era of … https://ilstexas.org/the-european-unions-artificial-intelligence-act-a-new-era-of-regulation-in-employment/[45] [PDF] 18th edition – 2025 tech trends report – Future Today Institute https://ftsg.com//uploads/2025/03/FTSG_2025_TR_FINAL_LINKED.pdf[46] [PDF] Tech Trends 2025 – Deloitte https://www2.deloitte.com/content/dam/insights/articles/us187540_tech-trends-2025/DI_Tech-trends-2025.pdf[47] Frontiers of AI Research in 2025 | FTI Consulting https://www.fticonsulting.com/insights/articles/frontiers-ai-research-2025[48] Learn Hugging Face in 1 hour | Amit Thinks | 2025 – YouTube https://www.youtube.com/watch?v=b665B04CWkI