Скачать или смотреть DeepSeek-OCR: Contexts Optical Compression

Cette video technique introduit DeepSeek-OCR, un modèle d'apprentissage visuel-linguistique (VLM) conçu pour explorer les limites de la compression optique de contexte en utilisant la modalité visuelle pour compresser efficacement le texte. Le modèle propose une architecture novatrice, le DeepEncoder, qui maintient un faible nombre de jetons visuels même avec des entrées haute résolution, améliorant ainsi l'efficacité du traitement. Les évaluations sur des benchmarks comme Fox et OmniDocBench démontrent que DeepSeek-OCR atteint des performances de pointe en OCR tout en utilisant moins de jetons visuels que les modèles existants, suggérant qu'une compression sans perte d'environ 10× est possible. Enfin, les auteurs explorent l'application de cette compression optique pour simuler un mécanisme d'oubli en ajustant la résolution des images pour représenter la dégradation de la mémoire au fil du temps.