[ unexpectedvalue @ 08.04.2026. 00:32 ] @
Inicijativa za javnu inteligenciju (Cognition Commons) razvija potpuno distribuirani LLM, inferencija i treniranje. Ne igracke, prava stvar, 200B+ parametara.

Trebaju nam inventivni umovi, arhitekte (background math, physics, information theory) da razviju nove algoritme. Izmedju ostalog, trenutni trening transformera rasipa entropiju parametara, pa istražujemo intidžersku arhitekturu na distribuiranoj mreži, bez GPU-a.

Nema para, samo prilika za novu renesansu.

https://x.com/soylentgreen