Весь цифровой мир строится вокруг 0 и 1: двоичная система, биты, байты, – многие об этом слышали. Но что если описать не два, а три состояния? Так, в сбалансированной троичной системе разряды принимают значения -1, 0 и +1. К преимуществам использования тритов и трайтов относят более плотное представление информации и включение знака числа прямо в запись.

История знает даже практическую реализацию. Советский компьютер «Сетунь», построенный в вычислительном центре Московского государственного университета, работал на троичной логике. Но победили не математика и элегантность, а простота и надежность двоичной системы, поэтому процессор устройства, с которого вы это читаете, должно быть, собирает -1 из 0 и 1.

Однако в последнее время идея трех состояний снова звучит чаще. Никто не планирует переписывать архитектуру компьютеров с нуля, речь об интересном способе уменьшить затраты на ИИ. Один из современных подходов показывает, что веса больших языковых моделей могут принимать три значения: -1, 0 и +1. Это называют тернарными (или 1.58-битными) весами. Среди результатов меньшее потребление памяти и энергии, более дешевый инференс. Кто бы тогда знал, что троичная логика найдет воплощение в эпоху больших языковых моделей.