Adversarial AI Security Engineer

À Propos du Poste

Mercor met en relation des talents créatifs et techniques d'élite avec des laboratoires de recherche leaders en IA. Basé à San Francisco, notre société a reçu des financements de Benchmark, General Catalyst, Peter Thiel, Adam D'Angelo, Larry Summers et Jack Dorsey.

Poste : Spécialiste en Équipe Rouge IA

• Type : Contrat à temps plein ou à temps partiel
• Rémunération : 50 $/heure
• Lieu : À distance
• Engagement : 20-40 heures/semaine

Responsabilités du Rôle

• Tester les modèles et agents conversationnels IA en équipe rouge pour identifier les jailbreaks, les injections de prompts, les cas d'utilisation abusive et l'exploitation des biais.
• Générer des données humaines de haute qualité en annotant les échecs, en classifiant les vulnérabilités et en signalant les risques systémiques.
• Appliquer une structure en suivant des taxonomies, des benchmarks et des playbooks pour maintenir la cohérence des tests.
• Documenter de manière reproductible pour produire des rapports, des ensembles de données et des cas d'attaque sur lesquels les clients peuvent agir.
• Travailler de manière autonome et asynchrone pour respecter les délais tout en améliorant les performances des modèles IA.

Qualifications

Essentiel

• Expérience préalable en équipe rouge dans le domaine de l'IA contradictoire, de la cybersécurité ou de l'investigation socio-technique.
• Maîtrise de l'anglais et du français au niveau natif.
• Solides compétences en communication pour expliquer clairement les risques aux parties prenantes techniques et non techniques.

Préféré

• Expérience en ML contradictoire, en cybersécurité et en analyse des risques socio-techniques.
• Compétences en matière de jeux de données de jailbreak, d'injection de prompts, d'attaques RLHF/DPO et d'extraction de modèles.

Rémunération & Légal

• Contractuel horaire
• Payé hebdomadairement via Stripe Connect

Processus de Candidature (Dure 20-30 minutes)

• Télécharger votre CV
• Entretien IA basé sur votre CV
• Soumettre le formulaire

Ressources & Support

• Pour plus de détails sur le processus d'entretien et les informations sur la plateforme, veuillez consulter : https://talent.docs.mercor.com/welcome/welcome
• Pour toute aide ou assistance, contactez : [email protected]

PS : Notre équipe examine les candidatures quotidiennement. Veuillez compléter votre entretien IA et les étapes de candidature pour être considéré pour cette opportunité.