Ling-1T, новый флагманский LLM от Ant Group

О Ling-1T:
Публикации на X:
Чат ZenMux:
Официальный блог Ling:   / ant-ling   Ling-1T — новая модель от Ant Group. Эта модель LLM имеет параметры 1T и архитектуру MoE (смесь экспертов), которая активируется с коэффициентом 1/32 в соответствии с законом масштабирования Линга для оптимального распределения экспертов. В этом выпуске также представлена ​​модель без рассуждений, которая может рассуждения с использованием метода посттренинга LPO, демонстрирующего многообещающие результаты при согласовании. #ai #antgroup #llm