La AI va alla guerra

La AI di Palantir per la gestione del campo di battaglia


L’ultima offerta di Palantir, la Palantir Artificial Intelligence Platform (AIP), sta facendo breccia nel Pentagono, fornendo un potenziale vantaggio tecnologico sul campo di battaglia. L’AIP è un sistema di integrazione che sfrutta modelli linguistici di grandi dimensioni, come il GPT-4 di OpenAI o il BERT di Google, per analizzare e analizzare dati pubblici o riservati.

Le capacità di AIP sono state illustrate in una dimostrazione in cui un operatore militare incaricato di monitorare il teatro dell’Europa orientale ha scoperto forze nemiche ammassate vicino al confine. Il sistema ha analizzato rapidamente la situazione e suggerito risposte tattiche all’aggressione percepita.

Nonostante l’impressionante dimostrazione, Palantir riconosce la necessità di controllare l’uso degli LLM (Large Language Models) e degli algoritmi in contesti delicati, come quelli delle operazioni militari. L’operazione AIP si basa su tre pilastri fondamentali: l’implementazione in un sistema classificato, la possibilità per gli utenti di modificare l’ambito e le azioni di ogni LLM e la presenza di guardrail leader nel settore per impedire al sistema di intraprendere azioni non autorizzate. La dimostrazione, tuttavia, non ha approfondito le misure adottate per evitare che gli LLM su cui si basa il sistema abbiano “allucinazioni” o inventino fatti e dettagli pertinenti, il che solleva dubbi sull’efficacia e l’affidabilità della tecnologia.

Sebbene le capacità dell’AIP possano fornire vantaggi significativi sul campo di battaglia, è imperativo che l’uso di questa tecnologia sia regolato e controllato in modo legale ed etico. Nonostante i potenziali vantaggi, le conseguenze di qualsiasi azione non autorizzata compiuta dal sistema potrebbero essere gravi. Pertanto, Palantir e le altre aziende che sviluppano tecnologie simili devono dare la priorità alle considerazioni etiche e garantire che vengano messe in atto le opportune misure di salvaguardia per evitare un uso improprio.

Palantir è stata fondata nel 2003 da Peter Thiel, e produce software per analizzare, integrare e visualizzare grandi quantità di dati, rendendolo utile per vari settori come la finanza, la sanità e la pubblica amministrazione.
Tra i clienti di Palantir figurano agenzie di intelligence, forze dell’ordine e forze armate.

Palantir si rifà alla sfera con cui si possono ricevere comunicazioni e dati nella saga de “Il signore degli anelli” di Tolkien.

CONDIVIDI QUESTO POST

Torna in alto