Dopo avere raccontato di Misterakko e di come abbia espresso la convenienza di comprare un Mac Studio per sviluppare intelligenza artificiale in locale, oggi trovo Horace Dediu di Asymco titolare Dispiegare intelligenza artificiale per l’impresa su hardware Apple è diventato improvvisamente una scelta ovvia.

Attraverso una breve ed esaustiva storia del rapporto tra gli apparecchi Apple e le imprese, in pochi paragrafi si arriva rapidamente al punto di oggi: a livello di prestazioni per l’AI, un Mac Studio è superiore; per quanto riguarda la sicurezza, chiaramente lo sviluppo in locale è un fattore decisivo; rispetto ai costi, il panorama è cambiato rapidamente perché oggi si paga a token.

Quindi si confrontano una struttura di sviluppo basata su elaborazione online, soggetta a un rischio sul costo dei token. Prevedere i consumi è difficile e prevedere l’andamento dei prezzi lo è ancora di più. C’è un consenso generale sul fatto che prima o poi i costi dell’inferenza (l’elaborazione del modello rispetto al prompt) scenderanno. Per il momento non fanno che aumentare e chi utilizza l’AI con saggezza e competenza tende a volerne sempre di più, ovvero ad aumentare i costi.

In locale, c’è un tetto dato dal costo della macchina e poi, fine: i token hanno solo un costo di elaborazione locale, energia elettrica e tempo macchina, analogamente a quanto possono costare, che so, l’editing video o la modellazione tridimensionale. Il costo dell’inferenza su una macchina locale è risibile, quello nel cloud è alto e difficilmente prevedibile.

Tradotto, un Mac Studio messo sotto su questo aspetto si ammortizza in pochissimo tempo. Per l’azienda diventa un no-brainer, scrive Dediu, un’ovvietà:

La domanda non è più perché si dovrebbero usare computer Apple, ma perché non si dovrebbe.

Due indizi non fanno ancora una prova (ne servirebbero tre). Iniziano a orientare un’idea.