Скачать или смотреть Comment les IA apprennent-elles à comprendre ?

Comme l'expliquent les recherches sur l'alignement des IA basées sur des réseaux de neurones entrainés par deep learning (par exemple "The Alignment Problem from a Deep Learning Perspective" de Richard Ngo et al.), les modèles pré-entraînés en auto-supervision acquièrent des capacités impressionnantes qu'on peine à encadrer. Et les limitations de l'apprentissage par renforcement via feedback humain n'est un secret pour personne (voir "Open Problems and Fundamental Limitations of Reinforcement Learning from Human Feedback" de Stephen Casper et al.). L'association PauseIA lutte justement pour une pause internationale dans le développement des IA pour permettre de régler ces failles de sécurité. Si tu veux aider, tu peux.