Andrew Ng: Créer plus rapidement avec l'IA

Y Combinator

Introduction [00:00]

Andrew Ng partage des leçons sur la création de startups chez AI Fund, un studio de capital-risque qui cofonde environ une startup par mois. L'accent est mis sur le thème de la vitesse et sur la façon dont l'évolution de la technologie de l'IA permet une exécution plus rapide.

L'importance de la vitesse dans les startups [00:31]

• La vitesse d'exécution est un indicateur fort du succès d'une startup.
  • La nouvelle technologie d'IA accélère considérablement le développement des startups.
  • Les meilleures pratiques pour atteindre la vitesse évoluent constamment (tous les 2 à 3 mois).

Opportunités dans la pile d'IA [01:13]

• La pile d'IA comprend plusieurs couches :
  • Semi-conducteurs : (par exemple, NVIDIA, AMD, Intel)
  • Cloud : (par exemple, AWS, Google Cloud, Azure)
  • Modèles fondamentaux : (par exemple, OpenAI, Anthropic, Meta)
  • Applications : (par exemple, Workato, MosiacML, Inworld AI)

    

• Les plus grandes opportunités pour les startups se trouvent au niveau de la couche applicative.
  • Les applications génèrent des revenus qui soutiennent les couches technologiques inférieures.
  • Bien qu'une grande partie des relations publiques se concentre sur les modèles fondamentaux, les applications sont l'endroit où la valeur principale est créée.
• Une nouvelle couche d'orchestration agentique a émergé (par exemple, LangChain, AutoGen).
  • Cette couche aide les constructeurs d'applications à coordonner les appels aux couches technologiques sous-jacentes, ce qui facilite le développement d'applications.

    

L'essor de l'IA agentique [02:06]

• L'IA agentique est la tendance technologique la plus importante en matière d'IA.
  • Flux de travail non agentique (zero-shot) : Demander à un LLM de générer une sortie complète en une seule fois, comme taper un essai du début à la fin sans retour arrière. Ce n'est pas ainsi que les humains ou l'IA fonctionnent le mieux.
  • Flux de travail agentique : Un processus itératif où l'IA effectue les tâches par étapes (par exemple, plan, recherche, première ébauche, critique, révision).

    

    • Cette boucle itérative, bien que plus lente à chaque étape, offre un produit de travail bien meilleur.
    • Les flux de travail agentiques sont essentiels pour les tâches complexes telles que l'analyse des documents de conformité, le diagnostic médical et le raisonnement des documents juridiques.
  • De nombreuses entreprises intéressantes seront construites en implémentant des flux de travail existants ou nouveaux dans des systèmes d'IA agentiques.

Idées concrètes pour une exécution plus rapide [04:52]

• Travaillez uniquement sur des idées concrètes pour gagner en vitesse.
  • Une idée de produit concrète est spécifiée avec suffisamment de détails pour qu'un ingénieur puisse la construire.
    • Exemple de non concret : « Utiliser l'IA pour optimiser les actifs de soins de santé. » (Trop vague, conduit à différentes interprétations).
    • Exemple de concret : « Logiciel pour les hôpitaux permettant aux patients de réserver des créneaux horaires pour les appareils d'IRM en ligne afin d'optimiser l'utilisation. » (Clair, constructible).
    • Exemple de non concret : « IA pour la productivité personnelle de la messagerie. »
    • Exemple de concret : « Automatisation intégrée à Gmail qui permet aux utilisateurs d'écrire des invites pour filtrer/étiqueter automatiquement les e-mails. »

      

  • Les idées vagues reçoivent souvent des éloges, mais ne peuvent pas être construites rapidement, ce qui nuit à la vitesse.
  • Les idées concrètes fournissent une orientation claire, permettant une validation ou une réfutation rapide.
• Conseils pour travailler avec des idées concrètes :
  • Les bonnes idées concrètes proviennent souvent d'experts en la matière qui ont réfléchi à un problème pendant longtemps. Leurs décisions « instinctives » peuvent être étonnamment efficaces pour une prise de décision rapide, plus rapidement que la collecte de données pour les nouvelles startups.
  • Concentrez-vous sur une seule hypothèse claire. Les startups manquent de ressources pour poursuivre plusieurs idées simultanément.
  • Si les données indiquent qu'une idée échoue, passez rapidement à une nouvelle idée concrète.
  • Des pivots fréquents peuvent suggérer une connaissance initiale insuffisante du secteur.

Prototypage et ingénierie rapides [08:56]

• La boucle de construction/rétroaction est essentielle pour stimuler l'acceptation par les clients.
  • Cela implique de créer des logiciels (ingénierie), d'obtenir les commentaires des utilisateurs (gestion des produits) et d'itérer.

    

• Les assistants de codage d'IA permettent une ingénierie rapide :
  • Création de prototypes : L'IA rend cela 10 fois plus rapide (ou plus).
    • Exigences réduites en matière d'intégration aux systèmes existants, de fiabilité, d'évolutivité et même de sécurité pour les tests internes.
    • Permet la poursuite systématique des innovations en construisant de nombreux prototypes pour voir ce qui fonctionne.
    • Le mantra devrait être « agir vite et être responsable », plutôt que « agir vite et tout casser ».
  • Écriture/maintenance de logiciels de production : L'IA rend cela 30 à 50 % plus rapide (moins spectaculaire que le prototypage, mais toujours significatif).

    

• Nouvelles philosophies dans l'ingénierie logicielle :
  • Le code a moins de valeur en tant qu'artefact ; des bases de code entières peuvent être reconstruites rapidement.
  • Les décisions architecturales, auparavant des « portes à sens unique », ressemblent davantage à des « portes à double sens » en raison de la réduction des coûts de réingénierie.
• Évolution de l'assistance de l'IA :
  • Saisie semi-automatique du code (par exemple, GitHub Copilot)
  • IDE compatibles avec l'IA (par exemple, Cursor, WindoWs)
  • Assistants de codage hautement agentiques (par exemple, Claude Code, Cody)
  • Rester au fait des derniers outils est essentiel pour la productivité des développeurs.
• Permettre à chacun de construire avec l'IA [14:30] :
  • Conseiller aux gens de ne pas apprendre à coder parce que « l'IA va l'automatiser » est un mauvais conseil.
  • Historiquement, rendre le codage plus facile (par exemple, les claviers plutôt que les cartes perforées, les langages de haut niveau plutôt que l'assembleur, les IDE plutôt que les éditeurs de texte) a conduit à ce que plus de gens apprennent à coder.

    

  • Andrew Ng préconise que tout le monde, quel que soit son rôle (CFO, RH, spécialistes du marketing), apprenne à coder pour améliorer sa productivité.
  • La capacité de dire à un ordinateur exactement ce que vous voulez (même en demandant à l'IA de coder pour vous) sera une compétence essentielle.

    

Le rôle de la gestion des produits [17:06]

• L'ingénierie devenant plus rapide, la gestion des produits (obtenir les commentaires des utilisateurs, décider des fonctionnalités) est maintenant le goulot d'étranglement.
• Évolution des ratios PM:Ingénieurs : Traditionnellement, 1 PM pour 4 à 7 ingénieurs ; maintenant, les équipes proposent des ratios comme 1 PM pour 0,5 ingénieur en raison de l'augmentation de la vitesse d'ingénierie.
• Les PM qui savent coder, ou les ingénieurs avec un instinct de produit, ont tendance à mieux performer.
• Où obtenir les commentaires sur les produits (du plus rapide/moins précis au plus lent/plus précis) :
  1. Jouez vous-même avec le produit (30 min). Si vous êtes un expert en la matière, votre instinct peut être étonnamment bon.
  2. Demandez à 3 amis ou coéquipiers (30 min - 4 à 5 appels).
  3. Demandez à 3 à 10 inconnus (1 jour). Apprenez à repérer les zones à forte affluence (cafés, halls d'hôtel) pour demander respectueusement des commentaires.
  4. Envoyez des prototypes à 100 testeurs (1 semaine).
  5. Envoyez des prototypes à 1 000 utilisateurs pour obtenir des commentaires qualitatifs ou quantitatifs (1 à 2 semaines).
  6. Lancez un produit à part entière, test A/B (2+ mois).
  • Les tests A/B, bien qu'ils soient utiles, sont souvent la tactique la plus lente.
  • Il est essentiel d'analyser les données des boucles de rétroaction pour aiguiser l'instinct et mettre à jour les modèles mentaux des utilisateurs, améliorant ainsi la vitesse et la qualité des futures décisions relatives aux produits.

La valeur de la compréhension de l'IA [21:23]

• Une compréhension approfondie de l'IA est un facteur de différenciation car l'IA est une technologie émergente.
  • Pour les technologies matures (comme les applications mobiles) et les rôles professionnels (ventes, marketing, RH), les connaissances sont largement répandues.
  • Pour l'IA, la connaissance de la façon de bien faire les choses n'est pas encore diffuse.
• Faire les bons choix techniques (par exemple, la précision des chatbots, l'invite par rapport au réglage fin, la faible latence pour les applications vocales) permet de gagner un temps considérable.
  • Une mauvaise décision technique peut entraîner des mois de poursuite d'impasses, multipliant le temps de développement bien au-delà d'un ralentissement théorique de 2x.

Tirer parti des outils Gen AI pour les startups [23:26]

• Un vaste éventail de blocs de construction GenAI a émergé au cours des deux dernières années :
  • Invitations, flux de travail agentiques, évaluations, garde-fous, RAG, pile vocale, programmation asynchrone, extraction de données, intégrations/vectorDB, réglage fin, graphDB, LLM, navigateurs/utilisation d'ordinateurs agentiques, modèles de raisonnement MOP.

    

• Ces blocs peuvent être combinés pour créer des logiciels qui étaient auparavant impossibles, même il y a un an.
• Analogie des briques LEGO : Connaître plus de blocs de construction (différentes couleurs, formes) permet des créations combinatoires (exponentielles) plus riches et plus complexes.
  • L'apprentissage de ces blocs de construction (par exemple, par le biais des cours DeepLearning.AI) se traduit directement par la capacité de les combiner dans de nouvelles applications.
• Flexibilité dans le choix du modèle : Le coût de commutation pour les modèles de base est relativement faible.
  • Les équipes doivent concevoir des logiciels pour faciliter le passage d'un fournisseur de blocs de construction à un autre (par exemple, en utilisant des mesures d'évaluation pour passer automatiquement à de meilleurs modèles).
  • Le maintien de cette flexibilité permet un développement plus rapide, même lors de la création d'applications complexes à plusieurs niveaux.

Conclusion : Construire rapidement avec l'IA [25:26]

• Bien que de nombreux facteurs contribuent au succès d'une startup, la vitesse d'exécution est fortement corrélée.
• Stratégies pour atteindre la vitesse :
  1. Travailler sur des idées concrètes.
  2. Tirer parti de l'ingénierie rapide avec l'assistance au codage de l'IA.
  3. Mettre en œuvre des mécanismes de rétroaction rapide.
  4. Cultiver une compréhension approfondie de la technologie de l'IA.
• Les entrepreneurs devraient développer la capacité de rechercher une rétroaction rapide et respectueuse auprès de divers utilisateurs, même des inconnus, afin d'aiguiser leur instinct de produit.

Aborder le battage médiatique et les idées fausses sur l'IA [26:41]

• Les récits de battage médiatique sur l'IA ont été amplifiés à des fins de promotion, de collecte de fonds et d'influence.
  • Exemples de récits surévalués : l'IA conduisant à l'extinction de l'humanité, l'IA automatisant tous les emplois, les nouveaux modèles anéantissant des milliers de startups, l'énergie nucléaire étant la seule énergie viable pour l'IA. Ce sont des distorsions.
• Sécurité de l'IA vs. IA responsable [30:23] :
  • L'IA est un outil, ni intrinsèquement sûr ni dangereux ; sa sécurité dépend de la façon dont elle est appliquée.
  • Le terme « sécurité de l'IA » est trompeur ; « IA responsable » est plus approprié, en se concentrant sur la façon dont les humains utilisent l'IA de manière éthique.
  • Les reportages sensationnalistes dans les médias exagèrent souvent les expériences en laboratoire, contribuant ainsi à la désinformation.

L'IA dans l'éducation : Tendances actuelles et orientations futures [37:35]

• Deux principaux paradigmes pour l'IA dans l'éducation :
  1. L'IA rend les enseignants plus productifs (automatisation de la notation, des devoirs).
  2. L'IA fournit des tuteurs personnels à chaque étudiant.
• Bien que tout le monde pense que le changement arrive, la perturbation généralisée n'est pas encore là.
• De nombreuses équipes expérimentent (par exemple, Coursera Coach, les chatbots DeepLearning.AI, les applications d'apprentissage des langues comme Duolingo).
• L'éducation deviendra probablement hyper-personnalisée.
• Les flux de travail exacts (par exemple, les tuteurs avatar par rapport aux chatbots textuels) sont toujours en évolution ; « l'état final » n'est pas encore clair.
• La réalité est que les flux de travail humains complexes (enseignants, étudiants) nécessitent une cartographie minutieuse de l'IA agentique, un processus toujours en cours.

Concilier l'innovation de l'IA et les considérations éthiques [39:33]

• Jugement éthique : Si un produit n'améliore pas fondamentalement la situation des gens, il ne devrait pas être construit.
  • AI Fund a abandonné des projets pour des raisons éthiques, même lorsqu'ils étaient économiquement viables.
• Inégalité économique :
  • Les personnes occupant des postes non liés à l'ingénierie sont beaucoup plus productives si elles comprennent et peuvent utiliser l'IA.
  • Permettre à chacun de construire avec l'IA est essentiel pour éviter d'aggraver les inégalités.

Protéger l'open source et l'avenir de l'IA [41:27]

• Menace des gardiens : Le danger n'est pas l'IA elle-même, mais certaines entreprises qui utilisent les récits sur les « dangers de l'IA » pour faire pression en faveur de réglementations qui centraliseraient le pouvoir.
  • Semblable aux écosystèmes mobiles (Android, iOS) où deux gardiens restreignent l'innovation.
  • Exemple : Le projet de loi californien SB 1047, qui aurait imposé des exigences réglementaires lourdes, rendant difficile la publication de logiciels d'IA open source et ouverts.
• Protéger l'open source : Cette lutte est essentielle pour empêcher l'étouffement de l'innovation et pour assurer la diffusion des connaissances sur l'IA, permettant à de nombreuses startups de construire de manière responsable.