Firemný AI chatbot odpovedá na otázky. AI agent môže robiť podstatne viac. Môže: čítať firemné dokumenty, prehľadávať CRM, pracovať s e-mailmi, vyhľadávať na internete, vytvárať objednávky, meniť údaje v databáze, odosielať e-maily, spúšťať API operácie, pracovať so súbormi, a koordinovať ďalších agentov. Práve tým sa mení aj bezpečnostný problém. Pri klasickom chatbotovi sa často pýtame: „Dokáže model povedať niečo, čo by nemal?“ Pri agentovi musíme navyše riešiť: „Dokáže agent urobiť niečo, čo by nemal?“ To je zásadný rozdiel. Ak chatbot odpovie nesprávne, vzniká informačný problém. Ak agent s oprávnením na prácu s CRM, e-mailom alebo platbami urobí nesprávnu akciu, môže vzniknúť bezpečnostný alebo obchodný incident. Preto nestačí agentovi pripraviť dobrý masterprompt. Nestačí mu napísať: „Nikdy nezdieľaj citlivé informácie a vždy sa správaj bezpečne.“ Bezpečnosť agentového systému musí byť postavená aj mimo samotného modelu: v architektú...