Talent.com
Mercor
AI Safety Practitioner - Expert EvaluatorMercor • Stockholm, Stockholm County, Sweden
AI Safety Practitioner - Expert Evaluator

AI Safety Practitioner - Expert Evaluator

Mercor • Stockholm, Stockholm County, Sweden
14 timmar sedan
Typ av jobb
  • På distans
  • Quick Apply
Jobbeskrivning

About the job

Mercor connects elite creative and technical talent with leading AI research labs. Headquartered in San Francisco, our investors include Benchmark, General Catalyst, Peter Thiel, Adam D'Angelo, Larry Summers, and Jack Dorsey.

Position: AI Safety Practitioner
Type: Contract
Compensation: $60–$70/hour
Location: Remote

Role Responsibilities

  • Evaluate AI-generated responses for safety, factual accuracy, policy compliance, and overall quality.
  • Review content involving misinformation, political persuasion, self-harm, violence, cyber, biosecurity, and other sensitive domains.
  • Apply and refine evaluation rubrics for RLHF, SFT, and AI safety benchmarking.
  • Identify unsafe outputs, hallucinations, reasoning failures, and policy violations.
  • Provide structured feedback to improve model alignment and safety performance.
  • Collaborate with AI researchers and safety teams on ongoing evaluation initiatives.

Qualifications

Must-Have

  • Bachelor's degree or higher in Journalism, Communications, Psychology, Sociology, Public Policy, Law, Biology, Chemistry, Computer Science, or a related discipline.
  • 5+ years of professional experience in AI Safety, Trust & Safety, journalism, public policy, scientific research, security, or a related field.
  • Excellent written English, critical thinking, and analytical reasoning skills.
  • Ability to consistently evaluate nuanced and policy-sensitive scenarios.

Preferred

  • Experience with AI Safety, RLHF, SFT, Trust & Safety, or AI evaluation.
  • Familiarity with safety policies, content moderation, or evaluation rubric development.
  • Experience reviewing complex, high-risk, or ambiguous content.

Application Process (Takes 20–30 mins to complete)

  • Upload resume
  • AI interview based on your resume
  • Submit form

Resources & Support

  • For details about the interview process and platform information, please check: https://talent.docs.mercor.com/welcome
  • For any help or support, reach out to: support@mercor.com

PS: Our team reviews applications daily. Please complete your AI interview and application steps to be considered for this opportunity.

Skapa en jobbavisering för denna sökning

AI Safety Practitioner - Expert Evaluator • Stockholm, Stockholm County, Sweden

Liknande jobb

Vi söker en AI / Tech Specialist

Right On Rekrytering Interim Management Sweden ABStockholm, Stockholms län, Sweden

Vi söker nu en AI / Tech Specialist till ett bolag i Stockholm.Utveckla och implementera avancerade AI-lösningar.Analysera och optimera algoritmer för att förbättra prestanda.Samarbeta med teamet f... Visa mer

De flesta testar Copilot Du sätter riktningen

Nexer GroupStockholm, Stockholms län, Sweden

Du sätter riktning för hur det faktiskt används.Vi söker inte någon som vill testa Copilot.Vi söker någon som sätter riktning för hur AI används, ansvarsfullt, skalbart och affärsdrivet i stora org... Visa mer

En inbjudan för Microsoft 365 & AI‑utvecklare som vill sätta riktning

Nexer GroupStockholm, Stockholms län, Sweden

Microsoft 365 / AI‑utvecklare för dig som vill sätta riktning, inte följa den.Det här är inte en annons för dig som letar nästa jobb.Det är en inbjudan till dig som redan kan, bygger och som vill p... Visa mer

Deltidsutbildare inom Nätverkssäkerhet, Säkerhet i moln- och virtuella tjänster, AI, Automation och

PhantomsStockholm, Stockholm County, Sweden

Är du pedagogisk och brinner för att lära ut?.Vi söker nu flera IT-utbildare inom olika kurser.Tjänsten är på deltid, med en omfattning på 12–15 timmar per vecka.Vi söker dig som har ett genuint in... Visa mer

Valideringsingenjör inom Life Science

WeQuelStockholm, Stockholm County, Sweden

Är du valideringsingenjör med erfarenhet från läkemedel, medicinteknik eller bioteknik och redo för nästa steg? Vi på WeQuel söker just nu flera kollegor som vill arbeta som konsulter hos våra kund... Visa mer

Cyber Threat Intelligence (CTI) Lead

Orange CyberdefenseStockholm, Stockholms län, Sweden

Do you want to help us build a safer digital society?.Do you want to collaborate with a European-leading Threat Intelligence team as well as a cyber security research team?.We are now looking for a... Visa mer

Projektledare Försvarsinnovation till Kista Science City

WrknestStockholm, Stockholms län, Sweden

Wrknest söker nu en Projektledare för projektet TACTIC till Kista Science City.Rollen passar dig som vill kombinera strategisk projektledning med att utveckla samarbeten mellan försvarssektorn, när... Visa mer

AI Research Engineer (MultiModal & Vision) 100% Remote Worldwide

Tether Operations LimitedStockholm, D, SE
På distans

Join Tether and Shape the Future of Digital Finance.At Tether, we’re not just building products, we’re pioneering a global financial revolution.Our cutting-edge solutions empower businesses—from ex... Visa mer

System Verification Engineer

ProcruitmentStockholm, Stockholms län, Sweden

Vår kund är ett globalt ledande produktbolag inom försvarsindustrin, verksamma inom många tekniska områden för människors trygghet i samhället.Här får du vara en del av ett företag där kontinuerlig... Visa mer

AI Research Engineer (MultiModal Reinforcement Learning) 100% Remote Worldwide

Tether Operations LimitedStockholm, D, SE
På distans

Join Tether and Shape the Future of Digital Finance.At Tether, we’re not just building products, we’re pioneering a global financial revolution.Our cutting-edge solutions empower businesses—from ex... Visa mer

Senior AI Platform Engineer

TibberStockholm, Stockholms län, Sweden

We're at a pivotal moment for both Tibber and the planet.When joining Tibber, you won’t just help scale a forward-thinking tech company – you’ll contribute to a real shift in how people consume ele... Visa mer

Senior Data & AI Platform Engineer till Axfood IT

AntsStockholm, Stockholms län, Sweden

Välkommen till Axfood IT, en av matbranschens största IT-avdelningar med nästan 400 teknikspecialister.Det är vi som ser till att Axfood, och alla våra kedjor, kan ligga i framkant vad gäller digit... Visa mer

Headhunter / Researcher

CentioVällingby, Stockholms län, Sweden

Vi på Centio söker en Headhunter till kontoret i Vällingby.Centio erbjuder konsulttjänster till offentlig sektor.De flesta uppdragen avser civilingenjörstjänster till anläggningsprojekt.Du kommer a... Visa mer

DevOps Engineer - AI Model Evaluator

MercorStockholm, Stockholm County, Sweden
På distans
Quick Apply

Headquartered in San Francisco, our investors include.DevOps / SRE / Cloud Engineer (Coding Agent Experience).Review model-generated implementations involving.Identify bugs, edge cases, reliability... Visa mer

AI Research Engineer (Agentic Posttraining) 100% Remote Worldwide

Tether Operations LimitedStockholm, D, SE
På distans

Join Tether and Shape the Future of Digital Finance.At Tether, we’re not just building products, we’re pioneering a global financial revolution.Our cutting-edge solutions empower businesses—from ex... Visa mer

Senior AI-arkitekt

Liminity ABStockholm, Stockholms län, Sweden

Konsultroll – LLM, ML och AI-plattform.Vi söker en senior AI-arkitekt som vill leda design och införande av AI-lösningar hos våra kunder – från proof-of-concept till skalad produktion.Du är hands-o... Visa mer

IAM Ansvarig

SBABStockholm, Sweden

Var med och bygg upp ett av SBAB:s viktigaste säkerhetsområden.Vill du vara med och bygga upp en central funktion som stärker säkerheten, minskar risker och säkerställer att rätt personer har rätt ... Visa mer

AI Enablement Specialist

WeQuelStockholm, Stockholm County, Sweden

AI Enablement och operationalisering av moderna AI-plattformar såsom Claude och framtida AI-tjänster inom organisationen.Rollen passar dig som vill kombinera projektkoordinering, användarstöd och t... Visa mer

AI Lead till Dekiru Solutions AB

Right On Rekrytering Interim Management Sweden ABStockholm, Stockholms län, Sweden

Dekiru Solutions AB är ett konsultbolag med erfarna konsulter inom systemintegration och systemutveckling.Företaget drivs av teknologi, arbetsglädje och ambitionen att skapa långsiktigt nöjda kunde... Visa mer

Projektledare investeringsprojekt, Life Science

Knightec Group SwedenSolna, Stockholms län, Sweden

Du vill vara en del av regionens främsta Life Science-konsulter och driva projekt som gör skillnad.Här spelar du en viktig roll i att möjliggöra utveckling och produktion av framtidens läkemedel oc... Visa mer