IA local: per què IkärÿA està pensada per córrer al teu ordinador

IkärÿA forma part de KÄRŸ, que és en beta. El que expliquem aquí és el seu disseny i els principis que el guien.

Local-first per disseny

IkärÿA està dissenyada per córrer al dispositiu de qui la fa servir i no accedir mai a models d'internet. Les dades de la teva organització no han de sortir del teu ordinador perquè una IA les llegeixi.

El valor és el sistema, no el model

IkärÿA no és un model entrenat per nosaltres. És una capa (instruccions, orquestració, guardarraïls i paquets de coneixement) a sobre de models oberts. Quan surt un model millor, es canvia el de sota i el sistema continua igual.

La forja compila, el local executa

Un model petit, al teu ordinador, no pot llegir tots els documents del món. Per això el coneixement es prepara abans, en una consola interna nostra, amb models externs més grans. D'aquí en surt un paquet compacte, i el teu ordinador només l'executa, sense connexió.

És com un compilador: la feina pesada es fa una vegada, fora, i el que arriba al dispositiu és el resultat.

El codi mana, el model raona

Cap decisió crítica no es deixa a un model. El control és en codi que sempre fa el mateix, i el model proposa dins d'uns raïls:

• cada agent només pot fer servir les eines d'una llista tancada;
• la sortida té un format forçat, i no pot trencar-lo;
• només cita fonts que ha trobat de debò, i si no en troba cap, diu que no en té;
• el codi revisa la resposta abans d'ensenyar-la;
• cap canvi no s'aplica sol: IkärÿA fa una proposta, i la persona tria què s'aplica, un element rere l'altre.

Dissenyada per no malmetre el teu ordinador

El motor està dissenyat per córrer en un procés aïllat, amb límits de recursos, sense executar codi arbitrari i sense privilegis elevats. No ha de penjar la màquina, omplir el disc ni tocar res fora del seu àmbit.