BDH-CQ vs Transformer vs Mamba: memoria sinaptica, ragionamento latente e complessità computazionale
Per quasi un decennio, la self-attention ha definito il paradigma dominante dei Large Language Model. Ma l'accesso esplicito ai token precedenti, l'accumulo della KV cache e la generazione autoregressiva del ragionamento non sono necessariamente l'unico modo di costruire sistemi capaci di memoria, adattamento e inferenza. Tre famiglie architetturali permettono di studiare il problema da prospettive differenti: i Transformer, gli State Space Model selettivi come Mamba e Dragon Hatchling (BDH), l'architettura sviluppata da Pathway. Nell'agosto 2026, il lavoro BDH-CQ ha introdotto un'ulteriore dimensione: l'apprendimento in contesto tramite memoria ricorrente combinato con ragionamento iterativo in uno spazio latente continuo. L'obiettivo di questo approfondimento non è decretare la fine dei Transformer, ma analizzare quali informazioni ciascuna architettura conserva, come le aggiorna, quanto costa recuperarle e quali capacità sono realmente sup...