Penetration Testing

Penetration test di applicazioni AI e LLM

Un chatbot o un agente basato su un modello linguistico di grandi dimensioni (LLM) si può ingannare con le parole giuste: un messaggio costruito ad arte, o un'istruzione nascosta in un documento o in una pagina web che legge, può fargli rivelare dati o usare in modo improprio gli strumenti a cui è collegato. Testiamo la tua applicazione AI come farebbe un attaccante.

RICHIEDI IL SERVIZIO
Perché sceglierci

Siamo un'azienda italiana di sicurezza specializzata in cloud e application security. I nostri servizi nascono da anni di penetration testing, consulenza, formazione e ricerca.

Metodologia solida costruita da esperti
Certificazioni internazionali
Azienda di sicurezza in rapida crescita
SCOPRI CHI SIAMO

FAQ

Penetration test di applicazioni AI e LLM: domande frequenti

Le domande che ci fanno più spesso prima di testare un'applicazione AI.

È la stessa cosa dell'AI-powered penetration testing?

No, sono due servizi diversi. Qui testiamo la tua applicazione AI: il modello, le sue integrazioni e i suoi dati. Con l'AI-powered penetration testing usiamo invece una nostra piattaforma AI per ampliare la copertura di un penetration test sulle tue applicazioni.

Cosa vi serve da parte nostra?

Un account di test per ogni ruolo utente è indispensabile. Il resto dipende da te e dal tipo di test che vuoi: con il system prompt, i modelli usati, la configurazione o i documenti alla base del RAG possiamo esaminare l'applicazione anche dall'interno; senza, la testiamo come la vedrebbe un attaccante esterno.

Potete testare in produzione? E i costi delle API?

Un ambiente di staging che replica la produzione è la scelta più prudente, ma si può testare anche in produzione, con finestre concordate e senza test distruttivi. In entrambi i casi i test consumano chiamate e token sul tuo account: prima di iniziare dicci quali limiti dobbiamo rispettare.

Come riportate una vulnerabilità che il modello non riproduce sempre?

La riportiamo comunque. Le soluzioni AI non sono deterministiche: spesso lo stesso identico prompt non riproduce ogni volta lo stesso comportamento, e nel report lo indichiamo chiaramente.

Quali certificazioni ha il team relative ai test di AI e LLM?

Per i sistemi di AI e machine learning il team ha la C-AI/MLPen (Certified AI/ML Pentester). Le certificazioni relative al resto dell'applicazione, come OSWE e GWAPT per le applicazioni web, sono nella pagina dedicata al penetration test, e l'elenco completo è nella pagina Chi siamo.