Talent.com
Mercor
AI Safety Expert - Red TeamMercor • Stockholm County, Sweden
AI Safety Expert - Red Team

AI Safety Expert - Red Team

Mercor • Stockholm County, Sweden
16 dagar sedan
Jobbeskrivning

About the job Mercor connects elite creative and technical talent with leading AI research labs. Headquartered in San Francisco, our investors include Benchmark , General Catalyst , Peter Thiel , Adam D'Angelo , Larry Summers , and Jack Dorsey . Position: AI Safety Experts — English & Finnish Type: Contract Compensation: $48–$62/hour Location: Remote Role Responsibilities Red team conversational AI models and agents to identify jailbreaks, prompt injections, misuse cases, and bias exploitation. Generate high-quality human data by annotating failures, classifying vulnerabilities, and flagging systemic risks. Apply structured approaches using taxonomies, benchmarks, and playbooks to ensure consistent testing. Document findings reproducibly to produce reports, datasets, and attack cases that customers can act on. Work independently and asynchronously to meet deadlines while improving AI model performance . Qualifications Must-Have Fluent in English and Finnish . Prior experience in red teaming, AI adversarial work , cybersecurity , or socio-technical probing. Ability to communicate risks clearly to both technical and non-technical stakeholders. Preferred Experience with Adversarial ML , including jailbreak datasets, prompt injection, and model extraction. Background in Cybersecurity , such as penetration testing and exploit development. Expertise in socio-technical risk, including harassment/disinfo probing and abuse analysis. Application Process (Takes 20–30 mins to complete) Upload resume AI interview based on your resume Submit form Resources & Support For details about the interview process and platform information, please check: https://talent.docs.mercor.com/welcome For any help or support, reach out to: support@mercor.com PS: Our team reviews applications daily. Please complete your AI interview and application steps to be considered for this opportunity.

Skapa en jobbavisering för denna sökning

AI Safety Expert - Red Team • Stockholm County, Sweden

Liknande jobb

Cyber Threat Intelligence (CTI) Lead

Orange CyberdefenseStockholm, Stockholms län, Sweden

Do you want to help us build a safer digital society?.Do you want to collaborate with a European-leading Threat Intelligence team as well as a cyber security research team?.We are now looking for a... Visa mer

En inbjudan för Microsoft 365 & AI‑utvecklare som vill sätta riktning

Nexer GroupStockholm, Stockholms län, Sweden

Microsoft 365 / AI‑utvecklare för dig som vill sätta riktning, inte följa den.Det här är inte en annons för dig som letar nästa jobb.Det är en inbjudan till dig som redan kan, bygger och som vill p... Visa mer

Deltidsutbildare inom Nätverkssäkerhet, Säkerhet i moln- och virtuella tjänster, AI, Automation och

PhantomsStockholm, Stockholm County, Sweden

Är du pedagogisk och brinner för att lära ut?.Vi söker nu flera IT-utbildare inom olika kurser.Tjänsten är på deltid, med en omfattning på 12–15 timmar per vecka.Vi söker dig som har ett genuint in... Visa mer

De flesta testar Copilot Du sätter riktningen

Nexer GroupStockholm, Stockholms län, Sweden

Du sätter riktning för hur det faktiskt används.Vi söker inte någon som vill testa Copilot.Vi söker någon som sätter riktning för hur AI används, ansvarsfullt, skalbart och affärsdrivet i stora org... Visa mer

Data & AI Management Consultant

RedeployStockholm, Stockholms län, Sweden

You guide organisations through technology-driven change, clarifying priorities, shaping direction and making strategy executable.Consultant role across the Nordics, with clients spanning industrie... Visa mer

Phantoms söker en utbildare inom IT-säkerhet

PhantomsUpplands Väsby, Stockholms län, Sweden

Är du en pedagogisk person och älska att lära andra? .Vi söker en engagerad och kunnig konsult eller utbildare som vill bidra till att utveckla och stärka framtidens IT-säkerhetsspecialister! I rol... Visa mer

AI Research Engineer (MultiModal & Vision) 100% Remote Worldwide

Tether Operations LimitedStockholm, D, SE
På distans

Join Tether and Shape the Future of Digital Finance.At Tether, we’re not just building products, we’re pioneering a global financial revolution.Our cutting-edge solutions empower businesses—from ex... Visa mer

AI Research Engineer (MultiModal Reinforcement Learning) 100% Remote Worldwide

Tether Operations LimitedStockholm, D, SE
På distans

Join Tether and Shape the Future of Digital Finance.At Tether, we’re not just building products, we’re pioneering a global financial revolution.Our cutting-edge solutions empower businesses—from ex... Visa mer

Senior AI Platform Engineer

TibberStockholm, Stockholms län, Sweden

We're at a pivotal moment for both Tibber and the planet.When joining Tibber, you won’t just help scale a forward-thinking tech company – you’ll contribute to a real shift in how people consume ele... Visa mer

Senior Data & AI Platform Engineer till Axfood IT

AntsStockholm, Stockholms län, Sweden

Välkommen till Axfood IT, en av matbranschens största IT-avdelningar med nästan 400 teknikspecialister.Det är vi som ser till att Axfood, och alla våra kedjor, kan ligga i framkant vad gäller digit... Visa mer

Technical Project Manager Data Center (Remote)

RM Staffing B.V.Vallentuna, AB, SE
På distans

Clients need a single point of contact who actually understands hardware, not just a relationship manager who has to relay every technical question.Projects span hardware deployment, structured cab... Visa mer

Technical Recruiter (Remote)

RM Staffing B.V.Upplands Väsby, AB, SE
På distans

Reboot Monkey is a global datacenter services provider headquartered in Haarlem, Netherlands, operating.We deliver colocation, IP transit, smart hands, remote hands, and managed datacenter services... Visa mer

AI Research Engineer (Agentic Posttraining) 100% Remote Worldwide

Tether Operations LimitedStockholm, D, SE
På distans

Join Tether and Shape the Future of Digital Finance.At Tether, we’re not just building products, we’re pioneering a global financial revolution.Our cutting-edge solutions empower businesses—from ex... Visa mer

Senior AI-arkitekt

Liminity ABStockholm, Stockholms län, Sweden

Konsultroll – LLM, ML och AI-plattform.Vi söker en senior AI-arkitekt som vill leda design och införande av AI-lösningar hos våra kunder – från proof-of-concept till skalad produktion.Du är hands-o... Visa mer

DevOps Engineer - AI Model Evaluator

MercorStockholm, Stockholm County, Sweden
På distans
Quick Apply

Headquartered in San Francisco, our investors include.DevOps / SRE / Cloud Engineer (Coding Agent Experience).Review model-generated implementations involving.Identify bugs, edge cases, reliability... Visa mer

IAM Ansvarig

SBABStockholm, Sweden

Var med och bygg upp ett av SBAB:s viktigaste säkerhetsområden.Vill du vara med och bygga upp en central funktion som stärker säkerheten, minskar risker och säkerställer att rätt personer har rätt ... Visa mer

AI Enablement Specialist

WeQuelStockholm, Stockholm County, Sweden

AI Enablement och operationalisering av moderna AI-plattformar såsom Claude och framtida AI-tjänster inom organisationen.Rollen passar dig som vill kombinera projektkoordinering, användarstöd och t... Visa mer

AI Lead till Dekiru Solutions AB

Right On Rekrytering Interim Management Sweden ABStockholm, Stockholms län, Sweden

Dekiru Solutions AB är ett konsultbolag med erfarna konsulter inom systemintegration och systemutveckling.Företaget drivs av teknologi, arbetsglädje och ambitionen att skapa långsiktigt nöjda kunde... Visa mer