AI Agent бүх асуудлыг шийдэхгүй: Уламжлалт систем болон Хиймэл оюуныг хэзээ, хэрхэн сонгох вэ?

Бизнесийн удирдлагууд, үүсгэн байгуулагчид болон технологийн захирлууд (CTO) өнөөдөр "Бүх асуудлыг хиймэл оюун (AI) ашиглан шийдье" гэсэн хүчтэй хүлээлттэй нүүр тулж байна. AI Agent буюу хиймэл оюунд суурилсан бие даасан системүүд нь өгөгдөл боловсруулах, хэрэглэгчтэй харилцах, ажлын урсгалын автоматжуулалт хийхэд гайхалтай боломжуудыг нээж байгаа нь үнэн. Гэвч бодит байдал дээр AI Agent нь програм хангамжийн бүх асуудлыг шийдэж чадахгүй бөгөөд зарим тохиолдолд уламжлалт код бичих нь хамаагүй илүү хямд, найдвартай, мөн хурдан байдаг.

Энэхүү нийтлэлээр бид технологийн удирдлагуудад зориулан хэзээ уламжлалт програм хангамжийн систем хөгжүүлэх, хэзээ AI Agent-д суурилсан шийдэл гаргах талаар бодит шийдвэр гаргахад шаардлагатай инженерийн суурь зарчмууд, архитектурын ялгаа болон эрсдэлийн удирдлагын талаар гүнзгийрүүлэн авч үзэх болно. Үүнийг уншсанаар та технологийн багийнхаа нөөцийг хааш нь чиглүүлэх, ямар үед AI-д найдаж болохгүй вэ гэдгийг тодорхой мэдэж авах болно.

Хиймэл оюун ба Уламжлалт системийн суурь ялгаа

Шийдвэр гаргахын тулд хамгийн түрүүнд системийн шинж чанарыг ойлгох шаардлагатай. Энэ хоёр аргачлал нь үндсэн хоёр өөр философид тулгуурладаг:

• Уламжлалт програм хангамж (Deterministic): Урьдчилан таамаглах боломжтой, хатуу тогтоосон дүрмийн дагуу ажилладаг. Хэрэв A нөхцөл биелвэл үргэлж B үйлдэл хийгдэнэ. Гаралт нь 100% тодорхой бөгөөд логикийн хувьд алдаа гаргах магадлал нь зөвхөн хөгжүүлэгчийн бичсэн кодоос хамаарна.
• AI Agent болон LLM (Probabilistic): Магадлалд суурилсан систем. Өгөгдсөн мэдээлэл болон өмнөх үгсээс хамаарч дараагийн үр дүнг таамаглан гаргадаг. Тиймээс яг ижил оролт өгөхөд хоёр өөр гаралт гаргах боломжтой. Энэ нь уян хатан байдлыг бий болгодог хэдий ч системийн үр дүнг 100% баталгаажуулах боломжгүй болгодог.

AI Agent гэдэг нь зүгээр л текст үүсгэдэг загвар (LLM) биш юм. Энэ нь орчноосоо мэдээлэл хүлээн авч, төлөвлөгөө боловсруулан, гадны хэрэгслүүд (API, мэдээллийн сан, вэб хайлт) ашиглаж үйлдэл хийдэг цогц систем юм. Гэвч энэхүү бие даасан байдал нь системийн алдаа гарах цэгүүдийг (points of failure) олшруулдаг.

AI Agent-ийн ажиллах механик ба түүний хязгаарлалт

AI Agent-ийг хэрэгжүүлэхэд ихэвчлэн ReAct (Reasoning and Acting) эсвэл үүнтэй төстэй архитектурыг ашигладаг. Систем хэрэглэгчээс даалгавар хүлээж аваад дараах байдлаар ажиллана:

1. Ойлгуулах ба Төлөвлөх: Даалгаврыг жижиг хэсгүүдэд хуваана.
2. Хэрэгсэл ашиглах (Tool use): Шаардлагатай өгөгдлийг татахын тулд API дуудах эсвэл SQL query ажиллуулна.
3. Үнэлэх: Гаргаж авсан мэдээлэл нь зорилгод нийцэж байгаа эсэхийг шалгана.
4. Гүйцэтгэх: Эцсийн хариу эсвэл үйлдлийг хийнэ.

Хэдийгээр энэ үйл явц ухаалаг сонсогдож байгаа ч бодит хэрэгжилт дээр ноцтой хязгаарлалтууд үүсдэг. Хамгийн эхний асуудал бол хурд буюу Latency юм. Уламжлалт API дуудлага миллисекундээр хэмжигддэг бол AI Agent-ийн сэтгэхүйн алхам бүр LLM рүү хандах шаардлагатай болдог тул хэдэн секундээс хэдэн минут хүртэл үргэлжлэх магадлалтай. Мөн Хэт бүтээлч сэтгэх буюу Hallucination нь AI Agent-ийн хамгийн том дайсан бөгөөд огт байхгүй API endpoint-ийг дуудах, эсвэл худлаа мэдээллийг үнэн мэтээр боловсруулах эрсдэлтэй. Google Cloud Agent Builder гэх мэт орчин үеийн хэрэгслүүд эдгээр эрсдэлийг бууруулах хяналтын механизмыг санал болгодог ч бүрэн устгаж чадахгүй.

Ямар үед уламжлалт програм хангамж хөгжүүлэх вэ?

Бизнесийн маш олон үйл явц нь магадлал биш, харин туйлын нарийвчлал шаарддаг. Хэрэв таны шийдвэрлэх гэж буй асуудал дараах шинж тэмдгүүдийн аль нэгийг агуулж байвал AI Agent биш, харин уламжлалт програм хангамжийн систем хөгжүүлэх хэрэгтэй:

• 100% нарийвчлал ба Хатуу дүрэм шаардлагатай үед: Санхүүгийн гүйлгээ, хэрэглэгчийн дансны үлдэгдэл бодох, эрүүл мэндийн бүртгэлийн систем зэрэг нь ямар ч алдаа гаргах эрхгүй. Энд `if-else` дүрэм болон SQL-ийн хүчирхэг бүтэц хэзээд ялах болно.
• Өндөр хурд (Low Latency) чухал үед: Хөрөнгийн биржийн арилжааны платформ, бодит цагийн төлбөр тооцооны систем, тоглоомын сервер зэрэг нь миллисекунд дотор хариу өгөх шаардлагатай. LLM-ийн хариу өгөх хурд эдгээр шаардлагыг хангаж чадахгүй.
• Системийн төлөв байдал (State) ба CRUD үйлдлүүд: Өгөгдлийн санд мэдээлэл нэмэх (Create), унших (Read), шинэчлэх (Update), устгах (Delete) зэрэг стандарт үйлдлүүдийг хийхийн тулд хиймэл оюун ашиглах нь хэтэрхий нүсэр бөгөөд үнэтэй шийдэл юм.
• Хууль эрх зүй, зохицуулалтын хатуу шаардлага (Compliance): Систем яг яагаад ийм шийдвэр гаргасан бэ гэдгийг 100% мөрөөр нь хөөж (Audit trail) нотлох шаардлагатай тохиолдолд уламжлалт код хамгийн найдвартай нь байдаг.

Ямар үед хиймэл оюунд суурилсан AI Agent хөгжүүлэх вэ?

AI Agent-ийн жинхэнэ хүч нь бүтэцгүй өгөгдөлтэй (unstructured data) ажиллах, natural language буюу бидний хэлийг ойлгох, урьдчилан таамаглах боломжгүй олон хувилбарт нөхцөл байдалд дасан зохицох үед гарч ирдэг. Дараах тохиолдлуудад AI шийдлийг сонгох нь оновчтой:

• Бүтэцгүй өгөгдлийг боловсруулах ба утга гаргах: Өдөрт ирж буй мянга мянган харилцагчийн имэйл, гэрээний баримт бичиг, PDF файлуудаас хэрэгтэй мэдээллийг ялгаж авах, ангилах, хураангуйлах ажилд AI-г гүйцэх уламжлалт код байхгүй.
• Уян хатан ажлын урсгалын автоматжуулалт (Workflow Automation): Хэрэглэгчээс ирж буй хүсэлтийн зорилгыг (Intent) тодорхойлж, шаардлагатай бол нэмэлт асуулт асуун, зохих API-г дуудаж асуудлыг шийдвэрлэх үйл явц. Жишээлбэл, мэдээллийн технологийн тусламжийн (IT Helpdesk) тасалбар үүсгэх, шийдвэрлэх үйл явц.
• Төрөл бүрийн формат хооронд хөрвүүлэлт хийх: Хүний бичсэн шаардлагыг програм хангамжийн код болгох, аудиог текст рүү хөрвүүлэх, текстээс дүн шинжилгээний тайлан үүсгэх зэрэгт хиймэл оюун маш өндөр үр дүнтэй ажиллана.
• Динамик харилцан яриа ба Хэрэглэгчийн туршлага (UX): Хэрэглэгчдэд яг л хүнтэй харилцаж байгаа мэт уян хатан, контектсийг санах ойтой туслах хэрэгтэй үед AI Agent зайлшгүй шаардлагатай.

Архитектурын хосолмол загвар: Practical Implementation

Бодит байдал дээр "Зөвхөн Уламжлалт" эсвэл "Зөвхөн AI" гэсэн туйлширсан сонголт ховор байдаг. Сайн инженерийн багууд Хосолмол Архитектур (Hybrid Architecture) ашигладаг. Энэ нь хэрэглэгчтэй харилцах болон бүтэцгүй өгөгдлийг боловсруулах хэсэгт хиймэл оюуныг ашиглаж, харин үндсэн бизнес логик болон өгөгдлийн сангийн хандалтыг уламжлалт кодоор хашдаг арга юм.

Шийдэл гаргахад түгээмэл ашиглагддаг нэгэн загвар бол Human-in-the-loop (Хүн оролцсон хяналтын систем) юм. AI Agent бүх судалгааг хийж, мэдээллийг бэлтгэж өгөх боловч эцсийн шийдвэр гаргах эсвэл өгөгдлийн санд өөрчлөлт оруулах (жишээ нь мөнгө шилжүүлэх, баазаас өгөгдөл устгах) үйлдлийг заавал хүнээр эсвэл хатуу кодлогдсон дүрэмтэй уламжлалт системээр баталгаажуулдаг.

Шийдвэр гаргах шалгуур үзүүлэлтүүд (Decision Framework)

Технологийн захирлууд ямар төсөл дээр ямар технологи ашиглахаа шийдэхийн тулд дараах харьцуулсан шалгууруудыг ашиглаж болно:

1. Оролтын өгөгдөл (Input):
   • Хэрэв оролт нь үргэлж нэг ижил форматтай (JSON, XML, хатуу бүтэцтэй форм) байвал -> `Уламжлалт систем`
   • Хэрэв оролт нь хүн хоорондын яриа, зураг, олон янзын хэлбэртэй байвал -> `AI Agent`
2. Гаралтын хүлээлт (Output Expectation):
   • Яг нэг л зөв хариутай бөгөөд 100% баталгаатай байх ёстой бол -> `Уламжлалт систем`
   • Олон төрлийн зөв хариу байж болох ба шинэ санаа, хураангуйлал шаардлагатай бол -> `AI Agent`
3. Гүйцэтгэлийн зардал (Cost & Latency):
   • Миллисекунд шаардсан, маш өндөр ачаалалтай (High throughput), хямд зардалтай ажиллах хэрэгтэй бол -> `Уламжлалт систем`
   • Үйлдэл бүрт хэдэн секунд зарцуулахыг зөвшөөрөх боломжтой ба өндөр үнэ төлж чадах бол -> `AI Agent`
4. Засвар үйлчилгээ ба Туршилт (Testing & Maintenance):
   • Unit test болон CI/CD-ээр бүрэн хянаж, 100% бүрхэхийг хүсвэл -> `Уламжлалт систем`
   • Evaluation metric буюу чанарын үнэлгээний системээр байнгын хяналт хийж, өөрчлөгдөн хувьсах загварыг удирдах нөөцтэй бол -> `AI Agent`

Түгээмэл гардаг алдаанууд ба түүнээс зайлсхийх нь

AI технологийг бизнестээ нэвтрүүлэх үед багуудын гаргадаг хэд хэдэн нийтлэг алдаа байдаг:

• Энгийн логикийг AI-аар орлуулах (Over-engineering): Хэдхэн мөр `if-else` эсвэл `switch` нөхцөлөөр бичээд маш хурдан ажиллах зүйлийг AI Agent-аар шийдүүлэх гэж оролдох нь хамгийн түгээмэл алдаа юм. Энэ нь дэд бүтцийн зардлыг огцом өсгөж, системийн хурдыг унагаана.
• Хамгаалалтгүй шууд холболт (Unfettered Access): AI Agent-д өөрийн байгууллагын мэдээллийн санд шууд бичих (Write) эрх өгөх нь маш аюултай. Хэрэглэгчийн санаатайгаар буруу чиглүүлэх (Prompt Injection) халдлагад өртвөл баазыг бүхэлд нь устгах эрсдэлтэй.
• AI үнэгүй гэж андуурах: Уламжлалт програм хангамжийн дэд бүтцийн зардал харьцангуй тогтвортой байдаг бол AI Agent-ийн API (Токен) зардал нь хэрэглэгчийн ашиглалтаас хамаарч гэнэт маш өндөр дүнгээр өсөх магадлалтай байдаг.
• Урьдчилан таамаглах аргагүй байдлыг үл тоох: Нэгэнт таны систем LLM дээр суурилж байгаа бол өчигдөр зөв ажиллаж байсан промпт маргааш нь өөр загварын шинэчлэлээс болоод буруу ажиллаж эхлэхийг үгүйсгэхгүй.

Эдгээр эрсдлийг бууруулахын тулд туршлагатай инженерийн багууд системийн зааг байдлыг маш тодорхой тогтоож, хэрэглэгчдийн хандалтыг Anthropic's guide on AI agents зэрэг сайн туршлагуудын дагуу нарийн зохион байгуулдаг.

Гол дүгнэлтүүд

Системийн архитектурын сонголт хийхдээ дараах инженерийн философийг баримтлах нь илүү практик бөгөөд хэмжигдэхүйц сайжруулалт авчирдаг:

• Тодорхой байдлыг уламжлалт кодонд, Уян хатан байдлыг AI-д үлдээх: Цөм бизнес логик, тооцоолол, нууцлалын тохиргоог үргэлж уламжлалт кодоор шийдвэрлэж, тодорхой өмчлөл (clear ownership) бий болгох хэрэгтэй.
• Хосолмол архитектурыг зорилго болгох: AI-г бүх зүйлийг хийдэг бурхан мэтээр бүтээх бус, харин тодорхой үүрэгтэй, хязгаарлагдмал хүрээнд ажилладаг туслах (Copilot) байдлаар уламжлалт системтэйгээ уялдуулан хөгжүүлэх.
• Бизнесийн үнэ цэнэд төвлөрөх: Аливаа шийдэл нь шинэ технологи ашигласандаа биш, харин хэрэглэгчийн асуудлыг хэр хурдан, найдвартай, хямд шийдэж чадаж байгаагаараа хэмжигдэнэ.
• Тасралтгүй сайжруулалт (Continuous improvement): AI систем нь нэг удаа хөгжүүлээд дуусдаг зүйл биш. Промпт инженерчлэл, загварын хувилбарын удирдлага, аюулгүй байдлын хяналт зэргийг байнга хийх шаардлагатайг санаарай.