AI From A to Z, Part 4: Why Does It Get Things Wrong With Total Confidence?

ይህ የስምንት ክፍል ተከታታይ ጽሑፍ አራተኛው ነው። በክፍል 3 ጥሩ ጥያቄ እንዴት እንደሚጠየቅ አየን። አሁን ግን አንድ ችግር ይቀራል፦ ጥሩ ጥያቄ ብትጠይቅም አንዳንድ ጊዜ መልሱ ፍጹም የተሳሳተ ይሆናል — ያውም ትንሽ እንኳ ጥርጣሬ በሌለው ድምፅ።

ስሙ ምንድን ነው?

በእንግሊዝኛ "hallucination" ይሉታል። በአማርኛ "ቅዠት" ወይም "የፈጠራ መልስ" ልንለው እንችላለን።

ትርጉሙ ይህ ነው፦ AI እውነት የሚመስል ግን ፍጹም ውሸት የሆነ መረጃ ሲፈጥር።

ወሳኙ ነጥብ ይኸው ነው — መልሱ ስህተት አይመስልም። ጥሩ ተጽፎ፣ ተደራጅቶ፣ በሙሉ በራስ መተማመን ይቀርባል። ስህተት ሲሠራና ትክክል ሲሆን በድምፁ ውስጥ ምንም ልዩነት የለም። ችግሩ ያለው እዚህ ላይ ነው።

ምክንያት አንድ፦ ከመጀመሪያውም ግምት ነው

በክፍል 1 እንደተማርነው AI የሚያደርገው የሚቀጥለውን ቃል መገመት ነው። መረጃ የሚያከማች መዝገበ ቃላት አይደለም።

ስለዚህ "የ2015 የኢትዮጵያ የንግድ ሕግ አንቀጽ ስንት ነው?" ብለህ ስትጠይቀው፣ በውስጡ ሄዶ የሚያገኘው ሰነድ የለም። የሚያደርገው እንደዚህ ዓይነት ጥያቄ መልስ ምን ይመስላል? ብሎ መገመት ነው። የሕግ አንቀጽ ቁጥር ይመስላል፤ ስለዚህ የሕግ አንቀጽ ቁጥር የሚመስል ነገር ይሠራል።

ውጤቱ እውነት ሊሆን ይችላል። ላይሆንም ይችላል። ለ AI ግን ሁለቱ አንድ ዓይነት ሥራ ናቸው። "ይህን አላውቅም" የሚል ልዩ ቦታ በውስጡ የለም።

ምክንያት ሁለት፦ እንዲገምት አስተምረነዋል

ይህ ሁለተኛው ምክንያት ብዙም አይታወቅም፤ ግን የበለጠ አስገራሚ ነው። በ2025 OpenAI ራሱ ባሳተመው ጥናት መሠረት፣ AI የሚቀዠው የፈተና ሥርዓቱ ግምትን ስለሚሸልም ነው።

እንዲህ አስበው። የምርጫ ፈተና ላይ ተቀምጠሃል። መልሱን አታውቅም። ባዶ ብትተው ዜሮ ታገኛለህ። ብትገምትና ብትሳሳት እንዲሁ ዜሮ ታገኛለህ። ግን ገምተህ ብትመታ ነጥብ ታገኛለህ።

ታዲያ ምን ታደርጋለህ? ትገምታለህ። ሁልጊዜ። ምክንያቱም መገመት ኪሳራ የለውም።

AI ሞዴሎች የሚለኩባቸው ፈተናዎች በትክክል እንደዚህ ናቸው። "አላውቅም" ማለት ዜሮ ያስገኛል፤ የተሳሳተ መልስም ዜሮ ያስገኛል። ስለዚህ ሞዴሎቹ ሁልጊዜ እንዲገምቱ ተሸልመዋል። ልክን ማወቅ አልተሸለመም።

ጥናቱ ያቀረበው መፍትሔ ደግሞ ቀላል ነው፦ የተሳሳተ መልስ አሉታዊ ነጥብ ይኑረው። ልክ አንዳንድ ጥብቅ ፈተናዎች እንደሚያደርጉት። ያኔ "አላውቅም" ማለት ከመገመት ይሻላል።

ከጥናቱ የወጣ አንድ አስገራሚ ነጥብ አለ፦ ትንሽ ሞዴል ልኩን ማወቅ ይቀለዋል። አማርኛ ጨርሶ የማያውቅ ሞዴል "አላውቅም" ብሎ ማለፍ ይችላል። ጥቂት አማርኛ የሚያውቅ ሞዴል ግን ማወቁና አለማወቁ ስለሚያደናግረው ይገምታል። ግማሽ ዕውቀት ከዜሮ ዕውቀት የበለጠ አደገኛ ነው።

ምክንያት ሦስት፦ መረጃ ባነሰበት ቦታ ይብሳል

ይህ ለእኛ በጣም የሚመለከተን ነጥብ ነው።

AI የተማረው በኢንተርኔት ላይ ካለው ጽሑፍ ነው። ስለ አሜሪካ ሕግ፣ ስለ አውሮፓ ታሪክ፣ ስለ ትላልቅ ኩባንያዎች ብዙ ሚሊዮን ገጽ አለ። ስለዚህ እዚያ ላይ ጠንካራ ነው።

ስለ ኢትዮጵያ ግን? ስለ አንድ የገጠር ወረዳ? ስለ ኢትዮጵያ የግብር መመሪያ? ስለ አንድ የአዲስ አበባ ሰፈር? መረጃው ቀጭን ነው። መረጃው በቀጠነ ቁጥር ግምቱ ይበዛል፤ ግምቱ በበዛ ቁጥር ስህተቱ ይበዛል።

ስለዚህ ደንቡ ይህ ነው፦ ጥያቄህ ወደ ኢትዮጵያ በቀረበ ቁጥር በጥንቃቄ አረጋግጥ። ስለ አጠቃላይ የፊዚክስ ሕግ ሲናገር በጣም አስተማማኝ ነው። ስለ ኢትዮጵያ የጡረታ አዋጅ ሲናገር ግን አትመነው።

አንድ እውነተኛ ታሪክ

በ2023 በኒው ዮርክ አንድ ጠበቃ ለፍርድ ቤት ያቀረበውን ክርክር በ ChatGPT አዘጋጀ። AI ደግሞ ክርክሩን ለማጠናከር ስድስት የቀድሞ የፍርድ ውሳኔዎችን ጠቀሰ — ስም፣ ቁጥር፣ ዓመት፣ ሁሉም ተሟልቶ።

ችግሩ? ከእነዚያ ውሳኔዎች አንዱም አልነበረም። ሁሉም የተፈጠሩ ነበሩ።

ጠበቃው ሳያረጋግጥ አቀረበው። ዳኛው ሲፈትሽ ጉዳዩ ወጣ፤ ጠበቃውም ቅጣት ተጣለበት።

ትምህርቱ፦ የተጠቀሰው ምንጭ በጣም ትክክለኛ መስሎ መታየቱ ራሱ ማረጋገጫ አይደለም። AI ትክክለኛ የሚመስል ምንጭ በመፍጠር ረገድ በጣም ጎበዝ ነው።

የተለመዱ የስህተት ዓይነቶች

• የተፈጠረ ምንጭ — ያልታተመ መጽሐፍ፣ ያልነበረ ጥናት፣ የማይሠራ ድረ-ገጽ አድራሻ
• የተቀየረ ቁጥር — ትክክለኛ ታሪክ ግን የተሳሳተ አኃዝ ወይም ዓመት
• የተፈጠረ ሕግ — እውነተኛ አዋጅ ግን ያልነበረ አንቀጽ
• የተፈጠረ ጥቅስ — እውነተኛ ሰው ያላለውን ንግግር
• ስምምነት — አንተ የተሳሳተ ነገር ብትል "አዎ ትክክል ነህ" ብሎ ስህተትህን ማጠናከር። ይህ በጣም አደገኛ ነው

እንዴት ልታውቀው ትችላለህ?

ጥርጣሬ የሚቀሰቅሱ ምልክቶች፦

• በጣም ትክክለኛ የሆነ ዝርዝር ሲሰጥህ — ቀን፣ ገጽ ቁጥር፣ የአንቀጽ ቁጥር። ዝርዝሩ በበዛ ቁጥር የመፈጠር ዕድሉ ይጨምራል
• ስትቃወመው ወዲያውኑ ሲቀይር። "ይህ ትክክል አይደለም" ስትለው ወዲያው "ይቅርታ፣ ትክክል ነህ" ካለ — መጀመሪያውኑም አላወቀም ነበር። ይህ ትልቁ ምልክት ነው
• ስለ ኢትዮጵያ ልዩ ጉዳይ ሲናገር
• ስለ በጣም የቅርብ ጊዜ ክስተት ሲናገር
• የሰጠህ ሊንክ ሲከፈት ሲቀር

ስድስት መከላከያ ዘዴዎች

አንደኛ፦ "አላውቅም" እንዲል ፍቀድለት። ይህ ከሁሉ ቀላሉና ኃይለኛው ነው። በጥያቄህ መጨረሻ ላይ ጨምር፦

"በእርግጠኝነት የማታውቀውን ነገር አትገምት። ካላወቅህ 'አላውቅም' በል።"

ከላይ እንዳየነው ሞዴሎቹ የሚገምቱት መገመት ስለተሸለሙ ነው። ይህን ስትጽፍ ግን ሕጉን ትቀይረዋለህ — መገመት ዋጋ እንዲኖረው ታደርጋለህ።

ሁለተኛ፦ መረጃውን ራስህ ስጠው። ስለ አንድ ሰነድ ልትጠይቀው ከሆነ፣ ሰነዱን ራሱ ለጥፍለት። ከዚያ ከውስጡ እንዲመልስ ጠይቀው። ከማስታወሱ ከመፈለግ ይልቅ ካንተ ከሰጠኸው ውስጥ ሲያነብ ስህተቱ በእጅጉ ይቀንሳል።

ሦስተኛ፦ የፍለጋ ችሎታውን አብራ። ዘመናዊ AI መሣሪያዎች ኢንተርኔት መፈለግ ይችላሉ። "ፈልገህ አረጋግጥልኝ" ስትለው ከማስታወስ ወደ ማንበብ ይሸጋገራል።

አራተኛ፦ ምንጩን ራስህ ክፈት። ሊንክ ወይም ምንጭ ሲሰጥህ ተጠራጠር። ክፈተው። ካልተከፈተ አልነበረም ማለት ነው።

አምስተኛ፦ ሁለት ጊዜ ጠይቅ። አዲስ ውይይት ከፍተህ ተመሳሳይ ጥያቄ በሌላ አገላለጽ ጠይቅ። ሁለቱ መልሶች ከተለያዩ አንዱ (ወይም ሁለቱም) ግምት ናቸው።

ስድስተኛ፦ ለሒሳብ አትመን። AI ስሌት አይሠራም — የስሌት ውጤት የሚመስል ነገር ይጽፋል። ካልኩሌተር ተጠቀም።

የት አደገኛ ነው? የት ደህና ነው?

ቀላሉ መለኪያ ይህ ነው፦ ውጤቱን ራስህ ማረጋገጥ በምትችልበት ቦታ ደህና ነው። ማረጋገጥ በማትችልበት ቦታ አደገኛ ነው።

ደህና — ራስህ የምታየው፦

• ደብዳቤና ረቂቅ መጻፍ · ሐሳብ ማፍለቅ · ማጠቃለል · ማቅለል · መተርጎም · ኮድ (ሠርቶ መሞከር ስለሚቻል)

አደገኛ — ማረጋገጥ የሚያስፈልገው፦

• ሕግና የሕግ አንቀጽ · ሕክምናና መድኃኒት · ግብርና የመንግሥት ሥነ ሥርዓት · ቁጥር፣ ዋጋና ስሌት · ታሪካዊ ቀኖችና ስሞች · የሰዎች መረጃ

AI እንደ ጎበዝ ረዳት እንጂ እንደ ባለሙያ አትያዘው። ረቂቅ ይጽፍልሃል፤ ኃላፊነቱ ግን ያንተ ነው።

ማጠቃለያ — ሦስት ዓረፍተ ነገር

• AI አይዋሽም — ይገምታል፤ ግምቱም ስህተት ሲሆን ድምፁ አይለወጥም
• ስለ ኢትዮጵያ፣ ስለ ቁጥርና ስለ ሕግ ሲናገር ሁልጊዜ አረጋግጥ
• "ካላወቅህ አላውቅም በል" የሚለውን አንድ ዓረፍተ ነገር ጨምር — ብዙ ስህተት ይቀንሳል

በሚቀጥለው ክፍል

እስካሁን አጠቃላይ ነገሮችን አየን። አሁን ግን ወደ እኛ ጉዳይ እንመለስ፦ AI አማርኛን ምን ያህል ያውቃል?

ለምንድን ነው በእንግሊዝኛ ጎበዝ ሆኖ በአማርኛ የሚደናቀፈው? ፊደሉን ይሳሳታል? ትርጉሙስ? እና ወደፊት ይሻሻላል? ክፍል 5 ላይ እናያለን።

ምንጭ፦ Kalai, Nachum, Vempala & Zhang — “Why Language Models Hallucinate” (OpenAI / Georgia Tech፣ መስከረም 2025)። ይህ ተከታታይ ጽሑፍ በቢና ዜና ይወጣል። ጥያቄ ካለህ በአስተያየት አካፍለን።