เครื่องมือ LLM ที่ Bangkok AI ให้บริการ จะเป็น LLM ที่พัฒนาโดย บริษัท ชั้นนำนานาชาติ ที่ผู้ใช้ ได้ ลิขสิทธ์แบบเปิด Apache 2.0
การออกแบบและพัฒนาระบบ LLM เฉพาะทาง
โดยกระบวนการบ่มเพาะ LLM ด้วยกรรมวิธี PE-Training SFT
(Supervised Fine Tuning), DPO (Direct Preference
Optimization), RLHF (Reinforcement Learning with Human
Feedback)
การสร้าง LLM Inference Engine
LLM Inference
Engine คือ ระบบซอฟต์แวร์ ที่สามารถนำคำถาม หรือ
ข้อความจากผู้ใช้แล้วสามารถสร้างคำตอบที่คาดว่าจะตรงใจผู้ถามหรือคู่สนทนา
ระบบ LLM Inference Engine จะประกอบด้วย ระบบ API
ระบบกลั่นกรองข้อมูลขาเข้าและขาออก ระบบ Vector Database ระบบ
KM ระบบ Chatbot ระบบ Dashboard ระบบกันหลอน
ระบบเพิ่มประสิทธิภาพ เราให้ บริการสร้าง Inference Engine
โดยใช้ LLM 0kd Llama 2, 3
สร้างนวัตกรรมที่ใช้ RAG
RAG หรือ Retrieval
Augmented Generation หรือการสร้าง Prompt สำหรับระบบ LLM ที่
Prompt ประกอบด้วยส่วนที่ถามและข้อมูลของผู้ถามที่ได้มาจาก
Vector Database เพื่อให้ได้คำตอบจาก LLM ที่ตรงใจผู้ที่สุด
การสร้าง RAG จะมีการนำข้อมูลปฏิบัติการของบริษัทมาจัดเก็บใน
Vector Database ก่อน RAG ใช้ในงาน Billing , Call Center ,
งาน HR, งานกฎระเบียบองค์กร และอื่นๆอีกมาก
NVIDIA Tensor RT-LLM
NVIDIA Tensor RT-LLM
เป็น Python API ในการสร้าง LLM
ที่สามารถแก้ปัญหาที่ยากเกินกว่าที่จะแก้โดยการใช้ GPT4
นอกจากนี้ Tensor RT ยังช่วยทำ Optimization ทำให้ LLM
ทำงานได้เร็วขึ้น ไม่ว่าจะเป็นการใช้ Fash Attention , Infight
Batching และ FP8
จัดทำ Pilot Project
ทอลองใช้ AI จริงในองค์กร โดย
จัดทำ RAG ที่ใช้ LLM
เพื่อตอบคำถามจากข้อมูลภายในองค์กร
ให้บริการ AI Social Learning
พัฒนา website
/Mobile App เพื่อให้บริการ องค์ความรู้AI , e-Learning AI
เพื่อการ UpSkill & ReSkill , สร้างชุมชนผู้ใช้ AI
ในองค์กร
งานที่ปรึกษา จะมุ่งเน้นการสร้างความเข้าใจ ในการนำเทคโนโลยีมาใช้ในองค์กร และ สร้างนวัตกรรม การบริการใหม่ๆ ทั้งนี้ เพื่อให้ได้ผลในการลดค่าใช้จ่ายและเพิ่มรายได้ และสามารถให้บริการที่มีคุณภาพ กว่าเดิม การศึกษานี้จะเป็นการเตรียมความพร้อมองค์กรอย่างเป็นระบบ สามารถจัดทำเป็นรูปธรรมได้ โดยหลักๆ หลังจากที่คณะที่ปรึกษาได้ดำเนินการแล้ว องค์กรสามาถเข้าใจความท้าทายในการนำ AI มาใช้ โดยเข้าใจในสิ่งสำคัญต่อไปนี้
01
AI คืออะไร มีกี่ประเภท ทำงานอย่างไรและต่างกันตรงไหน
02
ทำไมต้องใช้ AI ด้วย และเราจะสร้างคุณค่าจาก AI สำหรับองค์กรเราได้อย่างไร
03
ข้อจำกัดและปัญหาของ AI คืออะไร ทำไมต้องมีจริยธรรม AI และมีกฎระเบียบอะไรบ้างที่ต้องรู้
04
องค์กรของเราควรใช้ AI แบบไหนที่ตอบโจทย์จริงๆ
05
จะวัดว่าองค์กรของเราพร้อมสำหรับ AI อย่างไร ถ้ายังไม่พร้อมจะต้องเตรียมการอะไรบ้าง
06
เราจะวางแผนในการใช้ AI สำหรับองค์กรอย่างไรดี ให้ประสบความสำเร็จและยั่งยืน
07
จะหาจุดลงตัวอย่างไร ระหว่างประโยชน์ที่ได้รับจาก AI และการจัดการความเสี่ยงที่อาจเกิดขึ้น
08
เราจะปรับเปลี่ยนบุคลากรขององค์กรให้พร้อมกับการเข้ามาของ AI ได้อย่างไร
09
เราจะกำหนดแนวทางการทำงานร่วมกันระหว่างคน และ AI แบบไหนดี
10
เราควรเลือกแนวทางไหนดีในการบริหารโครงการ AI ขององค์กร และจะใช้วิธีจัดหาแบบไหน
11
จะต้องมีการเตรียมการข้อมูลสำหรับการใช้งาน AI ไว้อย่างไรเพื่อให้เกิดประโยชน์สูงสุด
12
รูปแบบการ operate ระบบ AI สำหรับองค์ที่เหมาะสมคืออะไร
AI Workshop “ Framing AI for Organizations” for
managerial level
(ตอบคำถามทั้ง 12 ข้อข้างต้น)
งาน Workshop
จะดำเนินการภายใน 3 วัน
AI for Business for Technical Managers including CIO
งานถ่ายทอด AI ในระดับ Architect ให้เข้าใจชิ้นส่วนต่างๆ
และ Process การเพิ่มขีดความสามารถและการปรับแต่ง
ให้ทำงานเฉพาะทาง สอนการกำหนด Requirement การว่าจ้าง
การคำนวณค่าใช้จ่าย
AI Lab for Technical Teams (Hands-on)
สอนระดับเทคนิค เริมต้นสอน Python ก่อน แล้วสอน Machine
Learning , Deep Learning หรือ Neural Network การสอนจะ สอนเป็น
Lab ใช้ Open Source ที่ใช้กันแพร่หลาย พร้อม Dataset ที่ใช้ฝึก
AI ให้ สามารถฝีกให้ AI ไม่เกิด Underfit หรือ
Overfit
AI Applications for End- User (Hands-on)
Course
นี้จะสอน ให้ User สามารถใช้ เครื่องมือ AI ในการเพิ่ม
Productivity ในงานประจำวันของบริษัท
AI Tactical Plan (AI Roadmap)
การนำ AI
มาใช้ในองค์กรมีความจำเป็นอย่างยิ่ง
และเป็นสิ่งที่ต้องเข้าใจในประโยชน์และผลกระทบ ด้านจริยธรรม
และสังคม ดังนั้น คณะที่ปรึกษา จาก Bangkok AI
จึงขอเสนอให้บริการ ที่ปรึกษาจัดทำการศึกษา
เตรียมความพร้อมให้ผู้บริหาร วิเคราะห์ จัดทำ AI Enterprise
Architecture ขององค์กร และวิเคราะห์ องค์กรเพื่อจัดทำแผน
กลยุทธ์เฉพาะด้าน AI และ จัดทำ Roadmap ของการนำ AI แบบ Large
Language Model (LLM ) มาใช้ในองค์กร
AI Pilot Project
ในกรณีที่องค์กรมีความประสงค์ที่จะเห็น AI Application
เฉพาะทาง ที่มีประโยขน์กับองค์กร BangkokAI ก็สามารถดำเนินการได้
ตามความต้องการ