ผลงานทั้งหมด
Thaicom, GenAI สำหรับองค์กร
AI4ALL
แพลตฟอร์ม GenAI ที่มีการกำกับดูแล ให้ทั้งองค์กรเข้าถึง LLM ได้อย่างปลอดภัย
เส้นทางของระบบ
- 1Entra ID
- 2Chat UI
- 3Model routing
- 4RAG
- 5Audit
โจทย์
ทีมต่างๆ อยากใช้ LLM ในงาน แต่ต้องมีการยืนยันตัวตน สิทธิ์ แหล่งความรู้ที่อนุมัติ และบันทึกการใช้งานก่อนจะขยายการใช้ได้
บทบาทของผม
AI Engineer ดูแลสถาปัตยกรรมแพลตฟอร์ม การเชื่อมต่อ LLM ระบบค้นคืนข้อมูล และการยืนยันตัวตน
วิธีการทำงาน
หน้าใช้งาน LibreChat และ OpenWebUI อยู่หลัง Microsoft Entra ID เชื่อมต่อโมเดลของ Bedrock, Anthropic และ OpenAI พร้อม RAG จากแหล่งข้อมูลภายในที่อนุมัติ
ผลลัพธ์
ประตูเข้าสู่ GenAI ที่องค์กรไว้วางใจ และรูปแบบที่นำกลับมาใช้กับบริการ AI ในอนาคต
สิ่งที่ได้เรียนรู้
- การยอมรับขึ้นอยู่กับความไว้ใจและการควบคุมสิทธิ์ มากกว่าการเลือกโมเดล
เครื่องมือ
- LibreChat
- OpenWebUI
- AWS Bedrock
- Entra ID
- LangChain
- RAG