Senior Applied Research Scientist LLM Evaluation

Description du poste

We are a group of researchers, applied scientists, engineers, and product managers with a dual mission. We build and evolve the AI platform, and partner with teams to build products and end-to-end AI-powered work experiences.

In equal measure, we lay the foundations, research, experiment, and de-risk AI technologies that unlock new work experiences in the future.

You will play a major part in building next generation Large Language Models(LLM's) for Enterprise Language Generation that will power NOW platform with AI experiences in day to day work of our customers.

We are just getting started with our early-adopter customers and we need your help in building and making available an amazing range of solutions to our 9k+ enterprise customers around the world.

Nous sommes un groupe de chercheurs, scientifiques appliqués, ingénieurs et chefs de produit avec une double mission. Nous développons et faisons évoluer la plateforme d'IA tout en collaborant avec les équipes pour créer des produits et des expériences de travail alimentées par l'IA de bout en bout.

De manière égale, nous posons les bases, menons des recherches, expérimentons et réduisons les risques liés aux technologies d'IA afin de débloquer de nouvelles expériences de travail à l'avenir.

Vous jouerez un rôle clé dans la construction de modèles de langage de grande taille (LLM) de nouvelle génération pour la génération de langage en entreprise, qui alimenteront la plateforme NOW avec des expériences d'IA dans le travail quotidien de nos clients.

Nous en sommes encore aux débuts avec nos premiers clients pionniers et avons besoin de votre aide pour concevoir et fournir une gamme impressionnante de solutions à nos plus de 9 000 clients d'entreprise dans le monde entier.

What you get to do in this role :

• Confronted with real-world challenges and datasets, you will need to use your AI / ML expertise and creativity to apply existing methods and develop new ones to solve these problems in a practical and scalable way.
• Research, propose and implement appropriate models / techniques for LLM benchmarking.
• Participate in data collection and synthetic data generation, and generate custom benchmarks to evaluate diverse LLMs capabilities.
• Collaborate daily with a team of like-minded developers, applied research scientists, product managers and quality engineers to produce quality software.
• Contribute to the implementation of tools to facilitate LLMs evaluation and perform model / error analysis.
• Develop innovative patentable ideas that ensure the competitiveness of this product within the domain of similar work being done in the industry.
• Potentially write research papers in collaboration with our Research Group, to be published to the most notorious AI Conferences.
• Work with product owners to understand detailed requirements and own your code from design, implementation, testing and delivery of high-quality & high-impact solutions to our users.

Ce que vous ferez dans ce rôle :

• Face à des défis et des ensembles de données du monde réel, vous devrez utiliser votre expertise en IA / ML et votre créativité pour appliquer des méthodes existantes et en développer de nouvelles pour résoudre ces problèmes de manière pratique et évolutive.
• Rechercher, proposer et mettre en œuvre des modèles ou techniques appropriés pour l'évaluation comparative des LLM.
• Participer à la collecte de données et à la génération de données synthétiques, et créer des benchmarks personnalisés pour évaluer les capacités de divers LLM.
• Collaborer quotidiennement avec une équipe de développeurs, chercheurs appliqués, chefs de produit et ingénieurs qualité partageant les mêmes idées, pour produire des logiciels de qualité.
• Contribuer à la mise en œuvre d'outils facilitant l'évaluation des LLM et effectuer des analyses de modèles et d'erreurs.
• Développer des idées innovantes brevetables pour garantir la compétitivité de ce produit dans le domaine de travaux similaires réalisés dans l'industrie.
• Éventuellement, rédiger des articles de recherche en collaboration avec notre groupe de recherche, à publier dans les plus prestigieuses conférences sur l'IA.
• Travailler avec les responsables produits pour comprendre les exigences détaillées et être responsable de votre code, de la conception à la mise en œuvre, en passant par les tests et la livraison de solutions de haute qualité et à fort impact pour nos utilisateurs.

Qualifications

To be successful in this role you have :

4+ years of relevant experience with a Bachelor's degree; or 2 years with a Master's degree; or a PhD with no experience;

or equivalent work experience.

• Solid expertise in Python.
• Solid Machine Learning / Deep Learning theoretical knowledge and hands-on experience.
• Experience with LLM benchmarking and evaluation is required; experience generating synthetic data is a plus.
• Ability to read and experiment with ideas from recent research papers.
• High level of creativity, quick problem-solving abilities, and adaptability.
• Effective communication skills to convey research findings to both technical and non-technical stakeholders, ensuring a clear understanding of the benefits and limitations of LLMs across the organization.

Pour réussir dans ce rôle, vous possédez :

Plus de 4 ans d'expérience pertinente avec un diplôme de licence ; ou 2 ans avec un master ; ou un doctorat sans expérience préalable ;

ou une expérience professionnelle équivalente.

• Une solide expertise en Python.
• Une connaissance théorique approfondie et une expérience pratique en apprentissage automatique (Machine Learning) et apprentissage profond (Deep Learning).
• Une expérience en évaluation et benchmarking de LLM est requise ; une expérience en génération de données synthétiques est un plus.
• La capacité de lire et d'expérimenter des idées issues des articles de recherche récents.
• Un haut niveau de créativité, une capacité rapide à résoudre des problèmes et une grande adaptabilité.
• Des compétences en communication efficaces pour transmettre les résultats de recherche à des parties prenantes techniques et non techniques, en assurant une compréhension claire des avantages et des limites des LLM au sein de l'organisation.

Not sure if you meet every qualification? We still encourage you to apply! We value inclusivity, welcoming candidates from diverse backgrounds, including non-traditional paths.

Unique experiences enrich our team, and the willingness to dream big makes you an exceptional candidate!

Informations complémentaires

Work Personas

Nous adoptons une approche basée sur la flexibilité et la confiance vis-à-vis de notre monde du travail distribué. Les personas de travail (flexibles, à distance ou requis au bureau) sont des catégories qui sont attribuées aux employés de ServiceNow en fonction de la nature de leur travail.

Cliquez ici pour en savoir plus .

Equal Opportunity Employer

ServiceNow est un employeur qui souscrit au principe de l'égalité d’accès à l’emploi. Tous les candidats qualifiés recevront une considération pour l’emploi sans égard à la race, la couleur, la croyance, la religion, le sexe, l’orientation sexuelle, l’origine nationale ou la nationalité, l’ascendance, l’âge, le handicap, l’identité ou l’expression de genre, l’état matrimonial, le statut d’ancien combattant ou toute autre catégorie protégée par la loi.

De plus, tous les candidats qualifiés ayant des antécédents d’arrestation ou de condamnation seront pris en considération pour un emploi conformément aux exigences légales.

Accommodations

Nous mettons tout en œuvre offrir une expérience accessible et inclusive pour tous les candidats. Si vous avez besoin d’une mesure d’adaptation raisonnable pour compléter une partie du processus de candidature ou si vous n’êtes pas en mesure d’utiliser cette candidature en ligne et que vous avez besoin d’une autre méthode pour postuler, veuillez communiquer avec globaltalentss@servicenow.

com pour obtenir de l’aide.

Export Control Regulations

Pour les postes nécessitant l’accès à une technologie contrôlée assujettie aux règlements sur les contrôles à l’exportation, y compris les U.

S. Export Administration Regulations (EAR), ServiceNow peut être tenu d’obtenir l’approbation des autorités gouvernementales en matière de contrôle des exportations pour certaines personnes.

Tout emploi est subordonné à l’obtention par ServiceNow d’une licence d’exportation ou d’une autre approbation qui pourrait être requise par les autorités de contrôle des exportations compétentes.

Extrait de Fortune. 2024 Fortune Media IP Limited. Tous droits réservés. Utilisé sous licence.

Work Personas

We approach our distributed world of work with flexibility and trust. Work personas (flexible, remote, or required in office) are categories that are assigned to ServiceNow employees depending on the nature of their work. Learn more here .

Equal Opportunity Employer

ServiceNow is an equal opportunity employer. All qualified applicants will receive consideration for employment without regard to race, color, creed, religion, sex, sexual orientation, national origin or nationality, ancestry, age, disability, gender identity or expression, marital status, veteran status, or any other category protected by law.

In addition, all qualified applicants with arrest or conviction records will be considered for employment in accordance with legal requirements.

Accommodations

We strive to create an accessible and inclusive experience for all candidates. If you require a reasonable accommodation to complete any part of the application process, or are unable to use this online application and need an alternative method to apply, please contact [email protected] for assistance.

Export Control Regulations

For positions requiring access to controlled technology subject to export control regulations, including the U.S. Export Administration Regulations (EAR), ServiceNow may be required to obtain export control approval from government authorities for certain individuals.

All employment is contingent upon ServiceNow obtaining any export license or other approval that may be required by relevant export control authorities.

From Fortune. 2024 Fortune Media IP Limited. All rights reserved. Used under license.