AI Safety
Discipline that studies how to make AI systems reliable, secure, and aligned with human values.
AI safety addresses the technical and social risks of AI: bias, hallucinations, malicious use, and alignment. It includes techniques such as RLHF, red teaming, content moderation, and watermarking.
Practical examples
- Content filters on ChatGPT
- Red teaming for jailbreaks
- AI image watermarking
- Bias audits in models
Come lo usa Faraday
Nel lavoro con le imprese applichiamo il concetto di AI Safety in progetti concreti di chatbot, automazioni e software AI, con misurazione dei risultati di business.
Se stai valutando un progetto che coinvolge ai safety, parla con il team Faraday o consulta i servizi AI.