Ultrafast machine learning on FPGAs via Kolmogorov-Arnold Networks | Aarush Gupta
Kolmogorov-Arnold Networks (KAN) природно лягають на FPGA завдяки заміні матричних множень на суми унарних активацій, які перетворюються на lookup tables (LUT). Для інференсу це дає наносекундні latency та рекордне прискорення порівняно з попередніми реалізаціями, а для онлайн-навчання — субмікросекундні оновлення градієнтів безпосередньо на FPGA завдяки локальності та обмеженості B-spline базису. Метод масштабується до понад 50 000 параметрів і показує значно кращу апаратну ефективність, ніж MLP, на задачах апроксимації, зчитування кубітів та нестаціонарного керування.
Це відкриває шлях до адаптивного машинного навчання в реальному часі там, де раніше доводилося жертвувати або швидкодією, або можливістю перенавчання.