March 26
Гугл придумывают алгоритм для сжатия ИИ.
Память должна будет экономиться в 6 раз без потери качества.
Но название TurboQuant. Прям как Пайпд Пипер из «Силиконовой долины», там тоже был стартап с волшебным алгоритмом сжатия, который всё уменьшал без потерь.
В общем, если это работает, то ИИ станет намного дешевле и быстрее. Пока разработка только в лаборатории, когда выйдет в свет пока не известно.
Бесплатная библиотека промптов и нейронки без лимитов тут.