PhD AI Alignment: Value Assessment for Open Models

PhD AI Alignment: Value Assessment for Open Models bij TU Delft | TheAIDaily

TU Delft zoekt een PhD-kandidaat voor onderzoek naar AI alignment in samenwerking met de Nederlandse Politie. Je onderzoekt hoe open-source AI-modellen verantwoord kunnen worden ingezet in gevoelige publieke domeinen, met een focus op waardebeoordeling en veiligheidsgaranties.

Je werkt in de Web Information Systems-groep (EEMCS) en besteedt 20% van je tijd bij de afdeling Strategie en Innovatie van de Nationale Politie. Je onderzoek richt zich op het formaliseren van waarde-taxonomieen en alignment-metrics voor foundation models: red-teaming, synthetische data voor kwetsbaarheidsanalyse, en downstream alignment-technieken als DPO, RLHF en constitutional AI. Het doel is een raamwerk waarmee organisaties open-weights modellen systematisch kunnen evalueren op ethische en operationele normen.

MSc in Computer Science, Data Science of aanverwant vakgebied met AI/ML-vakken

Interesse in AI alignment, human-AI interaction en explainable AI

Beheersing van het Nederlands is vereist vanwege samenwerking met de Politie

Bereidheid tot een veiligheidsscreening (BO-niveau) door de Rijksoverheid

Salaris: €3.059 - €3.881 bruto per maand (oplopend over 4 jaar)

8% vakantietoeslag en 8,3% eindejaarsuitkering

Contract voor 5 jaar (verlengd t.o.v. standaard 4 jaar)

Relocation-ondersteuning en Dual Career Programme

Klopt er iets niet aan deze vacature? Is de positie al vervuld of hebben wij deze ten onrechte geplaatst? Laat het ons weten

Senior Deep Learning Researcher (Model Efficiency)