IoT e IA all'edge: quando i dispositivi iniziano a decidere da soli

Modelli che contavano per casi d'uso industriali stanno ormai su dispositivi che costano qualche decina di dollari.

Due traiettorie si sono incrociate negli ultimi due anni. I modelli sono diventati più piccoli e più rapidi a parità di compito, e l'hardware di edge è diventato meno costoso a parità di inviluppo di calcolo. Risultato: capacità che esigevano un server diciotto mesi fa (classificazione visiva, rilevamento di anomalie, comprensione semplice del linguaggio) stanno ormai su dispositivi che costano meno del sensore accanto.

Questo sblocca una forma di sistema diversa. La sorveglianza industriale può decidere localmente cosa merita di essere inviato. Le telecamere del retail possono fare conteggio e analisi del tempo di presenza senza inviare video verso l'alto. I sensori logistici possono segnalare un problema dentro un container prima che esso raggiunga un deposito. Il cloud resta nel ciclo, ma non è più l'unico posto in cui si prendono le decisioni.

Cambia anche l'economia. La banda diventa meno costosa perché i dispositivi trasmettono decisioni, non flussi grezzi. La latenza crolla perché le decisioni non aspettano un'andata e ritorno. E la riservatezza migliora, perché i dati che non lasciano mai il dispositivo non possono trapelare da un archivio centralizzato.

L'ingegneria IoT in SDEN copre ancora il lavoro che la disciplina ha sempre coperto. Lo sviluppo del firmware del dispositivo stesso, in C, C++, Rust o in un framework di più alto livello quando i vincoli lo permettono. La connettività: scegliere la giusta radio (cellulare, LoRaWAN, Wi-Fi, BLE) e il giusto protocollo (MQTT, CoAP) per il caso d'uso. Il provisioning sicuro: assicurarsi che ogni dispositivo disponga di un'identità verificabile fin dalla sua fabbricazione. Le pipeline edge-to-cloud: instradare decisioni, eventi e telemetria verso il cloud in modo sicuro ed economico. E la gestione di flotta: aggiornamenti software, observability e risposta agli incidenti su migliaia di dispositivi sul campo.

Ciò che è nuovo è il livello di IA che si annida dentro il firmware, tra il sensore e la radio. La disciplina lo ha assorbito, ma le realtà operative (aggiornamenti di modelli, deriva di modelli, valutazione di modelli sul campo) sono nuove responsabilità per un team embedded.

Un dispositivo che classifica i propri dati di sensore è un dispositivo la cui classificazione può essere sbagliata. Il livello operativo deve dare al team la capacità di saperlo, senza inviare ogni input verso l'alto, perché questo rovinerebbe l'interesse dell'elaborazione all'edge.

Il modello che funziona è statistico: ogni dispositivo campiona una piccola frazione delle sue decisioni, con gli input e l'output del modello, e carica il campione per la valutazione. Il team sorveglia la precisione campionata nel tempo, la distribuzione delle decisioni e lo scarto tra ciò che dice il dispositivo e ciò che avrebbe detto il sistema centralizzato. Quando le metriche derivano, il team riaddestra, ridistribuisce e traccia il cambiamento come qualsiasi altro cambiamento di produzione.

È una nuova disciplina operativa per la maggior parte dei team embedded. È essa a decidere se le funzionalità di IA nel firmware sono una capacità stabile o un debito a evoluzione lenta.

Un deploy IoT maturo si sente come una dashboard operativa tranquilla.

Una flotta che funziona è una flotta in cui le decisioni si prendono al dispositivo, in cui le anomalie risalgono al centro, e in cui il team operativo si fida di ciò che vede. I nuovi dispositivi entrano in servizio in modo pulito. Gli aggiornamenti si deployano senza sorprese. Batteria, segnale e precisione restano nei margini attesi; quando non è così, la dashboard lo dice prima del cliente.

L'artefatto tecnico è uno stack dal firmware al cloud che un solo team può comprendere. L'artefatto culturale è un team operativo che non sussulta quando la flotta cresce di un altro ordine di grandezza.

Quando SDEN conclude una missione IoT, il deliverable è il firmware, la pipeline OTA, l'observability della flotta e il runbook per il prossimo deploy. Il passaggio di consegne è l'obiettivo.