Ces leaders techniques ont aidé à créer un nouvel outil de traduction chez Meta

Imaginez que vous parliez une langue que seul un petit pourcentage de la population mondiale utilise et qu’il y avait une pénurie de contenu numérique – livres et articles de presse, par exemple – traduit pour que vous puissiez le lire. C’est le défi que Méta a entrepris de résoudre avec son récent projet No Language Left Behind (NLLB), qui a été rendu public en juin. Il s’agit du premier modèle d’intelligence artificielle (IA) capable de traduire dans 200 langues et, espérons-le, davantage à l’avenir.

Les employés de Meta, Safiyyah Saleem et Vedanuj Goswami, étaient tous deux des membres clés de l’équipe NLLB : Safiyyah est responsable du programme technique et Vedanuj est ingénieur de recherche et responsable technique chargé de faire connaître le lancement à l’extérieur. Malgré leur étroite collaboration, ils ne se sont rencontrés en personne qu’en avril 2022.

« Vedanuj et moi parlions en fait plus tôt du fait que c’était le moment idéal pour que nous nous rencontrions enfin », dit Safiyyah. « C’était quelques mois seulement avant que nous ne prévoyions de lancer, c’était donc formidable d’avoir des séances de travail en personne. Rien ne vaut d’être dans la même pièce.

NLLB n’est qu’un exemple du travail interfonctionnel que les employés de l’IA et de l’apprentissage automatique (ML) comme Safiyyah et Vedanuj ont la chance de faire chez Meta. Comme le dit Safiyyah, « Ce ton d’inclusivité entre différentes disciplines n’est pas quelque chose qui se produit toujours dans les efforts axés sur l’ingénierie, mais c’était vraiment essentiel pour ce type de projet et il a été adopté par tout le monde. »

Ici, Safiyyah et Vedanuj expliquent comment Meta permet aux employés de l’IA et du ML de tracer leur propre chemin, l’impact de NLLB et du métaverse, et leur amour commun des arbres.

Védanuj : Je suis né et j’ai grandi en Inde, et j’ai obtenu un diplôme en informatique. Au cours de ma dernière année, j’ai opté pour un cours d’IA, même si l’IA et l’apprentissage automatique n’étaient pas des sujets familiers à l’époque. Quand il était temps de choisir ma spécialisation pour ma maîtrise à Georgia Tech, ML était l’une des options, et c’était vraiment intéressant pour moi.

Safiyyah : Je suis né et j’ai grandi à Atlanta, en Géorgie, et j’ai vécu dans plusieurs États différents à l’est du Mississippi. J’étais dans un programme d’études supérieures en linguistique à Georgia State, où j’ai appris l’intersection entre la linguistique et la linguistique informatique. J’ai cherché un programme où je pourrais combiner ces deux intérêts et j’en ai trouvé un à l’Université de Washington. Après avoir obtenu mon diplôme, j’ai travaillé à Seattle dans une startup appelée Voicebox, qui construit des assistants vocaux, principalement pour les voitures.

Safiyyah : Jusqu’à récemment, nous ne savions pas que nous avions ce lien dans notre histoire, mais c’était intéressant d’en parler. Vedanuj a mentionné qu’il aimait la verdure contrairement à la région plus aride de la Californie dans laquelle il se trouve actuellement. Cela a vraiment résonné en moi parce que l’une des choses que j’aime à Seattle, c’est qu’il y a la verdure d’Atlanta.

Védanuj : Ouais, j’adorais Atlanta. J’y suis resté deux ans pour faire mon master. C’était la première ville américaine dans laquelle j’ai vécu avant de déménager en Californie. Je viens du nord-est de l’Inde où il pleut beaucoup, et à Atlanta je me sentais plus près de chez moi parce qu’il pleut là-bas aussi, plus qu’en Californie.

Védanuj : J’ai d’abord rejoint en tant que stagiaire pendant que j’obtenais ma maîtrise. Au départ, j’appréhendais un peu de postuler dans une grande entreprise comme Meta, mais j’ai quand même soumis mon CV. Après un entretien sur le campus de mon école, j’ai été invité sur place à Menlo Park, où j’ai eu deux entretiens de codage et un entretien comportemental. Le reste de la journée a été assez amusant. Ils nous ont emmenés et nous ont montré des choses sympas comme le magasin de crème glacée et la station de jeux. J’ai vraiment apprécié toute l’expérience. J’ai terminé le stage avec succès et j’ai ensuite obtenu une offre à temps plein en tant qu’ingénieur de recherche axé sur la traduction automatique et la compréhension multimodale.

Safiyyah : Mon voyage vers Meta a été un peu différent. L’entreprise cherchait à trouver des personnes expérimentées dans le domaine des assistants vocaux et j’ai été invité à un dîner de recrutement à Seattle. Je me suis joint juste avant la pandémie en tant que gestionnaire de personnel. Comme Vedanuj, j’ai été invité pour une journée d’interviews sur place à Menlo Park. Tout le monde était très sympathique et quand je suis arrivé, il y avait une grande photo de mon profil Facebook pour me souhaiter la bienvenue !

Védanuj : La grande chose à propos de Meta est que lorsque vous vous joignez à temps plein, les nouvelles recrues passent par un camp d’entraînement où elles peuvent essayer différentes équipes et choisir celle qui leur convient le mieux. J’ai choisi l’équipe de vision par ordinateur, et j’ai travaillé sur différents types d’IA. À partir de là, j’ai continué à suivre mes intérêts, ce qui a conduit à No Language Left Behind, où je suis le responsable technique.

Safiyyah : Je cherchais un nouveau type de défi technique au sein de Meta et j’ai décidé de passer au rôle de responsable de programme technique (TPM). Au cours de ce processus, je parlais avec des personnes qui gèrent des TPM, découvrant des projets qui avaient des rôles ouverts. L’un d’eux était NLLB. C’était le match parfait parce que c’était techniquement intéressant et un nouveau défi lié au langage humain. En outre, il s’est concentré sur les langues à faibles ressources par rapport aux langues à ressources élevées comme l’anglais. Cette idée de ne laisser aucune langue derrière moi a vraiment résonné.

Védanuj : Je me suis également connecté au caractère inclusif du projet, car je parle une langue à faibles ressources. Je ne devrais pas me priver d’apprendre des choses ou de regarder des vidéos car cela n’existe pas en ligne dans ma langue. Je crois aussi que les gens devraient pouvoir montrer leur culture ou leur littérature à ceux qui ne comprennent pas.

Védanuj : Habituellement, en ML, nous travaillons sur des problèmes plus axés sur des langages à ressources élevées comme l’anglais. Mais il y a des milliards de personnes qui ne parlent ni ne comprennent l’anglais. C’est pourquoi il est important d’augmenter la portée de cette technologie. Le modèle le plus récent que nous avons publié couvre 200 langues. Notre objectif est de l’augmenter encore, y compris dans les langues qui ne sont pas écrites. NLLB permet aux chercheurs de s’appuyer sur ce que nous avons créé et de l’étendre à de nombreux autres langages qui ne sont actuellement pas couverts par les technologies ML.

Safiyyah : La description de Vedanuj de l’impact est fantastique. J’ajouterais que l’une des façons dont nous nous distinguons des autres laboratoires de recherche de l’industrie est de nous concentrer sur l’open source. Vedanuj a mentionné que les chercheurs sont en mesure de s’appuyer sur le travail que nous faisons et c’est parce que nous nous sommes efforcés de nous assurer que les données que nous avons extraites et les modèles que nous avons créés étaient de source ouverte. Tout le monde peut l’utiliser pour construire la prochaine technologie. Cela ouvre vraiment la porte à des cas d’utilisation supplémentaires qui ont un impact direct sur la vie des gens.

Védanuj : Une chose que j’aime beaucoup dans le style de travail de Safiyyah, c’est que lorsqu’elle organise des réunions, elle affiche un ordre du jour à l’avance et envoie ensuite un résumé de ce qui s’est passé par la suite. Cela m’aide vraiment d’avoir un résumé détaillé, surtout si je manque la réunion. J’essaie de suivre son exemple et de le faire pour les réunions que j’organise. J’ai beaucoup appris de Safiyyah tout au long de ces interactions.

Safiyyah : Je dirais que Vedanuj est ma personne de référence pour tout ce qui concerne le mannequinat, en particulier lorsqu’il s’agit d’externalisation ou de faire connaître le travail que nous faisons. Nous avions un engagement pour présenter les modèles pour NLLB, et Vedanuj était la personne à qui je m’adressais en cas de problèmes techniques. Il était toujours prêt avec des réponses, et ce genre de réactivité est très utile lors d’une situation de lancement où vous avez des fenêtres de temps serrées dans lesquelles les choses peuvent se produire. Nous ne réussirions pas si nous n’avions pas des gens comme Vedanuj sur qui compter. Alors merci à Vedanuj pour ça !

Védanuj : Les gens me disent parfois que je peux gérer la pression.

Védanuj : De mon point de vue, le métaverse va être l’une des prochaines grandes plates-formes informatiques, tout comme nous utilisons nos appareils mobiles. C’est pourquoi je pense qu’il est extrêmement important de pouvoir traduire différentes langues. La traduction facilite un métaverse inclusif afin que les gens du monde entier puissent réellement profiter de la plateforme. C’est mon point de vue. Safiyyah, quel est le vôtre?

Safiyyah : Je suis entièrement d’accord. Le métaverse est l’une des choses qui m’a donné envie de rejoindre l’entreprise. Lors de la construction de la prochaine plate-forme informatique, nous devons nous assurer que chacun peut y accéder dans la langue de son choix. Notre travail soutiendra cette inclusivité.

Safiyyah : Vas-y, Vedanuj. Je vais lutter avec celui-ci.

Védanuj : Pensez à un enseignant dans une école, qui enseigne aux enfants différentes matières. Mon travail est similaire mais au lieu d’enseigner aux étudiants, j’enseigne les ordinateurs et le sujet que je leur enseigne est de traduire une phrase. Par exemple, s’il y a une phrase en français que je ne comprends pas, alors je peux demander à l’ordinateur de la dire dans une langue que je comprends. Mon travail consiste à apprendre à l’ordinateur comment faire cela.

Safiyyah : Je n’aurais rien à dire qui serait plus facilement compréhensible que la façon dont Vedanuj l’a dit. Pour mon rôle, je dirais qu’il s’agit plutôt de rassembler les pièces du puzzle pour s’assurer que nous avons une image complète.

Védanuj : La satisfaction de travailler et de construire un produit qui touche plus d’un milliard de personnes est un sentiment incroyable. Meta est un endroit idéal pour de telles opportunités, et nous bénéficions du soutien et de la liberté de la direction pour travailler sur des problèmes qui sont importants et qui ont un impact significatif sur la vie des gens.

Safiyyah : J’ajouterais que la variété des défis technologiques que Meta essaie de résoudre signifie qu’il y a toujours un problème intéressant à résoudre. L’IA et le ML sont au cœur de Meta, il est donc bon de travailler dans la partie de l’entreprise qui est au cœur de son succès.