SeeAct est conçu pour donner aux agents vision-langage une pipeline en deux étapes : un module de planification alimenté par de grands modèles de langage génère des sous-objectifs basés sur des scènes observées, et un module d'exécution traduit ces sous-objectifs en actions spécifiques à l'environnement. Un backbone de perception extrait des caractéristiques d'objets et de scènes à partir d'images ou de simulations. L'architecture modulaire permet de remplacer facilement les planificateurs ou réseaux de perception et supporte l'évaluation sur AI2-THOR, Habitat et d'autres environnements personnalisés. SeeAct accélère la recherche sur l'IA incarnée interactive en fournissant une décomposition, une mise en contexte et une exécution de tâches de bout en bout.