AI Engineer - RAG Platform

AI Engineer - RAG Platform. Want to improve one of Rabobank's most strategic AI platforms through data-driven experimentation and measurable model improvements? As an AI Engineer - RAG Platform, you are responsible for continuously improving the quality, accuracy and effectiveness of Rabobank's internal Retrieval-Augmented Generation (RAG) platform. You work at the intersection of Information Retrieval, Data Science and Software Engineering. Rather than building AI applications or platform infrastructure, your primary responsibility is improving the performance of the RAG system itself.

The RAG platform serves thousands of users across Rabobank and acts as a foundation for multiple AI-powered products. Your focus is understanding where and why the system underperforms, designing experiments to validate improvements and translating insights into measurable production outcomes. You contribute across the entire improvement lifecycle, from failure analysis and hypothesis generation to evaluation, implementation and monitoring. You leverage user feedback, retrieval metrics, evaluation datasets and production telemetry to continuously increase answer quality and user trust.

This role is designed for a highly analytical and hands-on specialist who wants to deepen their expertise in retrieval systems, evaluation methodologies and applied AI rather than moving towards people management or generic product development. You will work closely with Software Engineers, Platform Engineers, Data Scientists and Product Managers, while acting as the driving force behind the continuous improvement of Rabobank's RAG capabilities. Examples of what you will work on: Investigating why certain user questions produce lower-quality answers and identifying the underlying retrieval or grounding issues.

Improving our automated evaluation framework to measure retrieval quality, answer quality and user satisfaction. Running large-scale experiments to determine the impact of different chunking, embedding and retrieval strategies. Analyzing user interactions and system performance data in Databricks to uncover improvement opportunities. Building feedback loops that continuously identify weak responses and feed insights back into the development process.

Defining and monitoring quality metrics that ensure every release results in measurable model improvements.

Facts & figures: 36 hours per week. A strategic AI platform used across Rabobank. Working on a production AI system where quality improvements directly impact thousands of users. Part of a multidisciplinary team combining engineering, product and AI expertise.

Key responsibilities: Drive continuous RAG model improvement - Improve retrieval performance, answer quality and overall user experience through experimentation, analysis and optimization. Build evaluation and measurement capabilities - Develop automated frameworks that measure RAG quality, identify regressions and provide actionable insights for future improvements. Turn insights into production outcomes - Translate data analysis and experimentation results into scalable, maintainable engineering solutions that deliver measurable business value.

Together we achieve more than alone: The RAG platform is not a research project. It is a production product that must continuously improve. You will join a team of experienced engineers who are building and operating critical AI capabilities within Rabobank. Success in this role comes from combining scientific rigor with engineering excellence. We value people who challenge assumptions, validate ideas through data and continuously raise the quality bar.

You & your talent: We are looking for someone who enjoys solving hard problems and is driven by measurable outcomes. Someone who is equally comfortable discussing statistical significance, retrieval metrics and system architecture. You take ownership of results rather than activities. You are naturally curious, analytical and passionate about improving complex systems.

Hard skills: Retrieval-Augmented Generation (RAG), Large Language Models (LLMs), Python, Databricks, Evaluation frameworks for GenAI systems, Embedding models, Prompt optimization, Data pipelines and workflow automation, CI/CD practices, Azure.

Nice to have: Experience with fine-tuning language models. Experience with ranking and retrieval systems. Experience with AI observability and monitoring. Experience working with large-scale production AI platforms. Knowledge of synthetic evaluation datasets and benchmark creation.

Knowledge and experience: Master's degree or equivalent academic level in Data Science, Artificial Intelligence, Computer Science, Mathematics, Statistics or a related field. At least 3 years of relevant experience in machine learning, applied AI or data science. Demonstrable experience improving production-grade RAG systems or advanced retrieval-based AI solutions. Experience designing evaluation methodologies and quality metrics. Strong track record of converting analyses into automated production solutions.

Experience working with large datasets and complex distributed environments. Ability to communicate findings and recommendations to both technical and non-technical stakeholders. Proficiency in English, both written and spoken.

Voorwaarden: Aanvullende informatie: Wanneer u bij ons als leverancier een professional aanbiedt en deze wordt geplaatst, hebben we informatie van u als contractpartij nodig, onder andere met betrekking tot de Wet keten- en inlenersaansprakelijkheid. De 'WKA' heeft als doel om misbruik te voorkomen bij de afdracht van loonheffingen bij alle schakels in de keten; van leverancier tot opdrachtgever. Wij dekken deze risico's voor onze opdrachtgevers af middels een geblokkeerde rekening, de G-rekening.

Dit is een rekening waarop een gedeelte van het factuurbedrag wordt gestort en waarvan u de loonheffingen en BTW kunt betalen aan de Belastingdienst. Het af te storten % hangt ervan af of u een SNA-certificering (NEN-4400-1 of NEN-4400-2) heeft of niet en of uw bedrijf in Nederland of daarbuiten is gevestigd. De G-rekening kunt u aanvragen bij de Belastingdienst. Indien u geen G-rekening kunt krijgen (en u kunt hier bewijs van de Belastingdienst van overleggen) dan heeft u ook de mogelijkheid elk kwartaal een accountantsverklaring (assurance report inzake inlening personeel) aan te leveren.

Hierin zal een gecertificeerd accountant (AA of RA) een verklaring afgeven over de juistheid, volledigheid en tijdigheid van de afdrachten. Let wel, de kosten voor deze verklaring komen voor uw eigen rekening.

Aanleveren van profielen: Graag in het cv de start- en einddata van de uitgevoerde opdrachten vermelden. Daarnaast ontvangen wij de cv's graag in PDF-formaat. Parkeerbeleid Rabobank Utrecht, Croeselaan: Wijziging parkeerbeleid Rabobank Croeselaan (vanaf april 2026) Door toenemende drukte en aankomende bouwwerkzaamheden wordt het parkeerbeleid van vóór COVID opnieuw ingevoerd. Wat verandert er voor externe medewerkers? Parkeren op locatie is alleen nog toegestaan op vrijdag.

Van maandag t/m donderdag is parkeren niet meer mogelijk. Bij medische noodzaak kan via de Rabobank-manager een uitzondering worden aangevraagd.

Alternatieven: Parkeren kan o.a. bij P+R locaties, Jaarbeurs, Paardenveld. De parkeerkosten op deze locaties zijn voor eigen rekening.

PES-Screening: Bij de onboarding voor de opdracht bij Rabobank is een aanvullende PES-screening via DISA verplicht. De kosten hiervoor zijn voor rekening van de leverancier/zelfstandig professional. Door aan te bieden op de opdracht ga je akkoord met deze screening en bijbehorende kosten. Voor professionals en leveranciers met een premium pakket worden deze kosten vergoed.

Mid/Fitlance: Kandidaten die werkzaam zijn via een Fitlance-, Midlance- of vergelijkbare constructie waarbij de kandidaat direct of indirect deelt in de marge, winst of omzet van de leverancier, komen niet in aanmerking voor deze opdracht. Rabobank werkt uitsluitend met kandidaten die in loondienst zijn bij de leverancier. Aanbiedingen die niet aan deze voorwaarde voldoen, worden niet in behandeling genomen.