ตีหนังสือ: ธนาคารที่ใหญ่ที่สุดในเอเชียตะวันออกเฉียงใต้ใช้ AI เพื่อต่อสู้กับการฉ้อโกงทางการเงินอย่างไร

Yคือ หุ่นยนต์จะมารับงานของเรา นั่นเป็นสิ่งที่ดี เราควรมีความสุขเพราะงานเหล่านั้นที่พวกเขาทำนั้นแย่มาก อยากย้อนเวลากลับไปจริงๆหรอ ด้วยมือ ติดตาม ติดธง และตรวจสอบการโอนเงินผ่านธนาคารรายวันของโลกเพื่อค้นหาการฉ้อโกงทางการเงินและแผนการฟอกเงิน? DBS Bank สถาบันการเงินที่ใหญ่ที่สุดของสิงคโปร์ ไม่มีอย่างแน่นอน บริษัทได้ใช้เวลาหลายปีในการพัฒนาระบบแมชชีนเลิร์นนิงล้ำสมัยที่ทำให้กระบวนการ "การเฝ้าระวังธุรกรรม" เกิดความยุ่งยากเป็นไปโดยอัตโนมัติอย่างมาก ทำให้นักวิเคราะห์ที่เป็นมนุษย์มีอิสระในการทำงานในระดับที่สูงขึ้นในขณะที่ทำงานอยู่ในสมดุลที่ละเอียดอ่อนด้วยกฎระเบียบทางการเงินแบบโบราณที่ผูกมัดกับอุตสาหกรรม . มันเป็นเรื่องที่น่าสนใจ ร่วมงานกับ AI โดย Thomas H. Davenport และ Steven M. Miller เต็มไปด้วยกรณีศึกษาที่คล้ายคลึงกันจากอุตสาหกรรมเทคโนโลยีมากมาย โดยพิจารณาถึงการทำงานร่วมกันระหว่างมนุษย์กับ AI และให้ข้อมูลเชิงลึกเกี่ยวกับผลกระทบที่อาจเกิดขึ้นจากการโต้ตอบเหล่านี้ 

การทำงานกับ AI คัฟเวอร์

เอ็มไอที

ตัดตอนมาจาก การทำงานกับ AI: เรื่องจริงของการร่วมมือกันระหว่างมนุษย์กับเครื่องจักร โดย Thomas H. Davenport และ Steven M. Miller พิมพ์ซ้ำโดยได้รับอนุญาตจากสำนักพิมพ์ MIT ลิขสิทธิ์ 2022


ธนาคาร DBS: การเฝ้าระวังธุรกรรมที่ขับเคลื่อนด้วย AI

นับตั้งแต่มีการออกพระราชบัญญัติความลับของธนาคารหรือที่เรียกว่าพระราชบัญญัติการรายงานสกุลเงินและธุรกรรมต่างประเทศในสหรัฐอเมริกาในปี 1970 ธนาคารทั่วโลกต้องรับผิดชอบในการป้องกันการฟอกเงิน กระแสข้ามพรมแดนที่น่าสงสัยของ เงินและอาชญากรรมทางการเงินประเภทอื่น ๆ DBS Bank ซึ่งเป็นธนาคารที่ใหญ่ที่สุดในสิงคโปร์และในเอเชียตะวันออกเฉียงใต้ ให้ความสำคัญกับการต่อต้านการฟอกเงิน (AML) และการตรวจหาและป้องกันอาชญากรรมทางการเงินมาอย่างยาวนาน ตามที่ผู้บริหารของ DBS กล่าวว่า “เราต้องการให้แน่ใจว่าเรามีการควบคุมภายในที่เข้มงวดภายในธนาคาร เพื่อไม่ให้ผู้กระทำความผิด ผู้ฟอกเงิน และผู้หลบเลี่ยงการคว่ำบาตร ไม่ได้เจาะเข้าสู่ระบบการเงิน ไม่ว่าจะผ่านธนาคารของเรา ผ่านระบบระดับประเทศของเรา หรือต่างประเทศ”

ข้อจำกัดของระบบตามกฎสำหรับการตรวจสอบการเฝ้าระวัง

เช่นเดียวกับธนาคารขนาดใหญ่อื่นๆ พื้นที่ของ DBS ที่เน้นประเด็นเหล่านี้ เรียกว่า "การเฝ้าระวังธุรกรรม" ได้ใช้ประโยชน์จาก AI มาหลายปีเพื่อทำงานประเภทนี้ บุคคลในฟังก์ชันนี้จะประเมินการแจ้งเตือนที่เกิดขึ้นโดยระบบที่อิงตามกฎ กฎจะประเมินข้อมูลธุรกรรมจากระบบต่างๆ ทั่วทั้งธนาคาร รวมถึงระบบสำหรับผู้บริโภค การบริหารความมั่งคั่ง ธนาคารสถาบัน และการชำระเงิน ธุรกรรมเหล่านี้ทั้งหมดไหลผ่านระบบที่อิงตามกฎสำหรับการคัดกรอง และกฎจะทำเครื่องหมายธุรกรรมที่ตรงกับเงื่อนไขที่เกี่ยวข้องกับบุคคลหรือนิติบุคคลที่ทำธุรกรรมที่น่าสงสัยกับธนาคาร ซึ่งเกี่ยวข้องกับเหตุการณ์การฟอกเงินที่อาจเกิดขึ้น หรือการฉ้อโกงทางการเงินประเภทอื่น ระบบที่อิงตามกฎ ซึ่งในอดีตเรียกว่า "ระบบผู้เชี่ยวชาญ" เป็นหนึ่งในรูปแบบที่เก่าแก่ที่สุดของ AI แต่ยังคงใช้กันอย่างแพร่หลายในด้านการธนาคารและการประกันภัย ตลอดจนในอุตสาหกรรมอื่นๆ

ที่ DBS และธนาคารอื่นๆ ส่วนใหญ่ทั่วโลก ระบบการเฝ้าระวังธุรกรรมทางการเงินตามกฎประเภทนี้จะสร้างการแจ้งเตือนจำนวนมากทุกวัน ข้อบกพร่องหลักของระบบการสอดแนมตามกฎคือ การแจ้งเตือนส่วนใหญ่ - มากถึง 98 เปอร์เซ็นต์ - เป็นผลบวกที่ผิดพลาด บางแง่มุมของธุรกรรมจะทริกเกอร์กฎที่นำไปสู่ธุรกรรมที่จะถูกตั้งค่าสถานะในรายการแจ้งเตือน อย่างไรก็ตาม หลังจากการสอบสวนติดตามผลโดยนักวิเคราะห์ที่เป็นมนุษย์ ปรากฎว่าธุรกรรมที่ได้รับการแจ้งเตือนนั้นแท้จริงแล้วไม่น่าสงสัย

นักวิเคราะห์การเฝ้าระวังธุรกรรมต้องติดตามทุกการแจ้งเตือน โดยดูข้อมูลธุรกรรมที่เกี่ยวข้องทั้งหมด พวกเขายังต้องพิจารณาโปรไฟล์ของบุคคลที่เกี่ยวข้องในการทำธุรกรรม พฤติกรรมทางการเงินที่ผ่านมาของพวกเขา สิ่งที่พวกเขาได้ประกาศไว้ใน "รู้จักลูกค้าของคุณ" และเอกสารการตรวจสอบวิเคราะห์สถานะลูกค้า และสิ่งอื่นใดที่ธนาคารอาจทราบเกี่ยวกับพวกเขา การติดตามการแจ้งเตือนเป็นกระบวนการที่ต้องใช้เวลามาก

หากนักวิเคราะห์ยืนยันว่าธุรกรรมนั้นน่าสงสัยหรือได้รับการยืนยันว่าเป็นการฉ้อโกงอย่างสมเหตุสมผล ธนาคารมีภาระหน้าที่ทางกฎหมายในการออกรายงานกิจกรรมที่น่าสงสัย (SAR) ให้กับหน่วยงานที่เกี่ยวข้อง นี่เป็นการตัดสินใจที่มีเดิมพันสูง ดังนั้นจึงเป็นสิ่งสำคัญสำหรับนักวิเคราะห์ที่จะต้องทำให้ถูกต้อง หากไม่ถูกต้อง ลูกค้าธนาคารที่ปฏิบัติตามกฎหมายอาจได้รับแจ้งอย่างไม่ถูกต้องว่าพวกเขากำลังถูกสอบสวนเรื่องอาชญากรรมทางการเงิน ในอีกด้านหนึ่ง หากตรวจไม่พบและรายงาน "ผู้กระทำความผิด" อาจนำไปสู่ปัญหาที่เกี่ยวข้องกับการฟอกเงินและอาชญากรรมทางการเงินอื่นๆ

อย่างน้อยในตอนนี้ ระบบที่อิงตามกฎไม่สามารถกำจัดได้ เนื่องจากหน่วยงานกำกับดูแลระดับประเทศในประเทศส่วนใหญ่ยังคงต้องการระบบดังกล่าว แต่ผู้บริหารของ DBS ตระหนักดีว่ามีแหล่งข้อมูลเพิ่มเติมมากมายทั้งภายในและภายนอกที่มีอยู่ ซึ่งหากใช้อย่างถูกต้อง ก็สามารถนำไปใช้เพื่อประเมินการแจ้งเตือนแต่ละรายการโดยอัตโนมัติจากระบบที่อิงตามกฎได้ สามารถทำได้โดยใช้ ML ซึ่งสามารถจัดการกับรูปแบบที่ซับซ้อนมากขึ้นและคาดการณ์ได้แม่นยำกว่าระบบที่อิงตามกฎ

การใช้ความสามารถ AI รุ่นใหม่เพื่อเพิ่มประสิทธิภาพการเฝ้าระวัง

ไม่กี่ปีที่ผ่านมา DBS ได้เริ่มโครงการเพื่อใช้ความสามารถ AI/ML รุ่นใหม่ร่วมกับระบบการคัดกรองตามกฎที่มีอยู่ การรวมกันจะช่วยให้ธนาคารจัดลำดับความสำคัญของการแจ้งเตือนทั้งหมดที่สร้างโดยระบบตามกฎตามคะแนนความน่าจะเป็นที่คำนวณเป็นตัวเลขซึ่งระบุระดับความสงสัย ระบบ ML ได้รับการฝึกอบรมให้รับรู้สถานการณ์ที่น่าสงสัยและเป็นการฉ้อโกงจากข้อมูลและผลลัพธ์ล่าสุดและในอดีต ในช่วงเวลาของการสัมภาษณ์ของเรา ระบบการกรองแบบ ML-based ใหม่ได้ใช้งานมานานกว่าหนึ่งปีแล้ว ระบบจะตรวจสอบการแจ้งเตือนทั้งหมดที่สร้างโดยระบบที่อิงตามกฎ กำหนดคะแนนความเสี่ยงของการแจ้งเตือนแต่ละรายการ และจัดหมวดหมู่การแจ้งเตือนแต่ละรายการเป็นหมวดหมู่ที่มีความเสี่ยงสูง ปานกลาง และต่ำ “หลังการประมวลผล” ประเภทนี้ของการแจ้งเตือนตามกฎช่วยให้นักวิเคราะห์สามารถถอดรหัสได้ว่ารายการใดควรให้ความสำคัญในทันที (ประเภทที่มีความเสี่ยงสูงและปานกลาง) และประเภทใดที่สามารถรอได้ (ประเภทที่มีความเสี่ยงต่ำที่สุด) . ความสามารถที่สำคัญของระบบ ML นี้คือมีตัวอธิบายที่แสดงให้นักวิเคราะห์เห็นหลักฐานที่ใช้ในการประเมินความน่าจะเป็นที่ธุรกรรมนั้นน่าสงสัยโดยอัตโนมัติ คำอธิบายและการนำทางโดยแบบจำลอง AI/ML ช่วยให้นักวิเคราะห์ตัดสินใจเกี่ยวกับความเสี่ยงได้ถูกต้อง

ดีบีเอสยังได้พัฒนาความสามารถใหม่ๆ เพื่อสนับสนุนการตรวจสอบธุรกรรมที่ได้รับการแจ้งเตือน ซึ่งรวมถึงระบบ Network Link Analytics สำหรับการตรวจหาความสัมพันธ์ที่น่าสงสัยและธุรกรรมระหว่างฝ่ายต่างๆ ธุรกรรมทางการเงินสามารถแสดงเป็นกราฟเครือข่ายที่แสดงบุคคลหรือบัญชีที่เกี่ยวข้องเป็นโหนดในเครือข่ายและการโต้ตอบใดๆ เป็นลิงก์ระหว่างโหนด กราฟเครือข่ายของความสัมพันธ์นี้สามารถใช้เพื่อระบุและประเมินรูปแบบที่น่าสงสัยของกระแสเงินเข้าและออก

ในขณะเดียวกัน DBS ยังได้เปลี่ยนแนวทางการทำงานที่ใช้แรงงานสูงเพื่อการตรวจสอบเวิร์กโฟลว์ด้วยแพลตฟอร์มใหม่ที่ทำให้นักวิเคราะห์ได้รับการสนับสนุนอย่างมากสำหรับการสืบสวนที่เกี่ยวข้องกับการเฝ้าระวังและการจัดการกรณีศึกษา เรียกว่า CRUISE ซึ่งจะรวมเอาท์พุตของเอ็นจิ้นตามกฎ โมเดลตัวกรอง ML และระบบ Network Link Analytics

นอกจากนี้ ระบบ CRUISE ยังช่วยให้นักวิเคราะห์สามารถเข้าถึงข้อมูลที่เกี่ยวข้องได้ง่ายและบูรณาการจากทั่วทั้งธนาคารที่จำเป็นในการติดตามธุรกรรมที่นักวิเคราะห์กำลังตรวจสอบ ภายในสภาพแวดล้อม CRUISE นี้ ธนาคารยังรวบรวมความคิดเห็นทั้งหมดที่เกี่ยวข้องกับงานของนักวิเคราะห์ในคดีนี้ และคำติชมนี้จะช่วยปรับปรุงระบบและกระบวนการของ DBS ให้ดียิ่งขึ้น

ผลกระทบต่อนักวิเคราะห์

แน่นอน การพัฒนาเหล่านี้ทำให้นักวิเคราะห์มีประสิทธิภาพมากขึ้นในการตรวจสอบการแจ้งเตือน เมื่อไม่กี่ปีที่ผ่านมา ไม่ใช่เรื่องแปลกที่นักวิเคราะห์การเฝ้าระวังธุรกรรมของ DBS จะใช้เวลาสองชั่วโมงหรือมากกว่านั้นในการดูการแจ้งเตือน เวลานี้รวมเวลาเตรียมส่วนหน้าเพื่อดึงข้อมูลจากหลายระบบและเปรียบเทียบธุรกรรมในอดีตที่เกี่ยวข้องด้วยตนเอง และเวลาวิเคราะห์จริงเพื่อประเมินหลักฐาน มองหารูปแบบ และตัดสินใจขั้นสุดท้ายว่าการแจ้งเตือนปรากฏขึ้นหรือไม่ เป็นธุรกรรมที่น่าสงสัยโดยสุจริต

หลังจากการปรับใช้เครื่องมือหลายอย่าง รวมถึง CRUISE, Network Link Analytics และโมเดลตัวกรองแบบ ML นักวิเคราะห์จะสามารถแก้ไขปัญหาเพิ่มเติมได้ประมาณหนึ่งในสามในระยะเวลาเท่ากัน นอกจากนี้ สำหรับกรณีที่มีความเสี่ยงสูงซึ่งระบุได้โดยใช้เครื่องมือเหล่านี้ DBS สามารถจับ "ตัวแสดงที่ไม่ดี" ได้เร็วกว่าเมื่อก่อน 

หัวหน้าฝ่ายการเฝ้าระวังธุรกรรมของ DBS ให้ความเห็นเกี่ยวกับความแตกต่างจากวิธีการเฝ้าระวังแบบเดิม ดังนี้:

วันนี้ที่ DBS เครื่องของเราสามารถรวบรวมข้อมูลสนับสนุนที่จำเป็นจากแหล่งต่างๆ ทั่วทั้งธนาคาร และนำเสนอบนหน้าจอของนักวิเคราะห์ของเรา ตอนนี้นักวิเคราะห์สามารถดูข้อมูลสนับสนุนที่เกี่ยวข้องสำหรับการแจ้งเตือนแต่ละรายการได้อย่างง่ายดาย และทำการตัดสินใจที่ถูกต้องโดยไม่ต้องค้นหาผ่านระบบต่างๆ กว่าหกสิบระบบเพื่อรับข้อมูลสนับสนุน ขณะนี้เครื่องจักรทำเช่นนี้สำหรับนักวิเคราะห์ได้เร็วกว่าที่มนุษย์สามารถทำได้ มันทำให้ชีวิตของนักวิเคราะห์ง่ายขึ้นและการตัดสินใจของพวกเขาเฉียบแหลมขึ้นมาก

ในอดีต เนื่องจากข้อจำกัดในทางปฏิบัติ นักวิเคราะห์การเฝ้าระวังธุรกรรมจึงสามารถรวบรวมและใช้ข้อมูลเพียงเล็กน้อยภายในธนาคารที่เกี่ยวข้องกับการตรวจสอบการแจ้งเตือน วันนี้ที่ DBS ด้วยเครื่องมือและกระบวนการใหม่ของเรา นักวิเคราะห์สามารถตัดสินใจโดยอิงจากการเข้าถึงข้อมูลที่เกี่ยวข้องเกือบทั้งหมดภายในธนาคารเกี่ยวกับธุรกรรมในทันทีและโดยอัตโนมัติ พวกเขาเห็นข้อมูลนี้ จัดระเบียบอย่างดีในลักษณะย่อบนหน้าจอ พร้อมคะแนนความเสี่ยงและด้วยความช่วยเหลือจากผู้อธิบายที่นำทางพวกเขาผ่านหลักฐานที่นำไปสู่ผลลัพธ์ของแบบจำลอง

DBS ลงทุนในชุดทักษะ "ยกระดับ" ให้กับพนักงานที่มีส่วนร่วมในการสร้างและใช้ระบบเฝ้าระวังใหม่เหล่านี้ ในบรรดาพนักงานที่ได้รับประโยชน์จากการเพิ่มทักษะดังกล่าว ได้แก่ นักวิเคราะห์การสอดส่องธุรกรรม ซึ่งมีความเชี่ยวชาญในการตรวจหาอาชญากรรมทางการเงิน และได้รับการฝึกอบรมให้ใช้แพลตฟอร์มเทคโนโลยีใหม่และมีทักษะในการวิเคราะห์ข้อมูลที่เกี่ยวข้อง ทีมงานช่วยออกแบบระบบใหม่ โดยเริ่มจากงานส่วนหน้าเพื่อระบุประเภทความเสี่ยง พวกเขายังให้ข้อมูลอินพุตเพื่อระบุข้อมูลที่เหมาะสมที่สุดที่จะใช้ และการวิเคราะห์ข้อมูลอัตโนมัติและความสามารถของ ML อาจเป็นประโยชน์กับพวกเขามากที่สุด

เมื่อถูกถามว่าระบบจะส่งผลกระทบต่อนักวิเคราะห์ธุรกรรมของมนุษย์อย่างไรในอนาคต ผู้บริหารด้านการปฏิบัติตามกฎระเบียบของ DBS กล่าวว่า:

ประสิทธิภาพเป็นสิ่งสำคัญเสมอ และเราต้องพยายามเพื่อให้ได้ระดับที่สูงขึ้นเสมอ เราต้องการจัดการกับแง่มุมที่อิงตามธุรกรรมของปริมาณงานการเฝ้าระวังในปัจจุบันและอนาคตที่มีผู้คนน้อยลง จากนั้นจึงนำความสามารถที่เพิ่มพูนไปลงทุนใหม่ในด้านใหม่ของการเฝ้าระวังและการป้องกันการฉ้อโกง จะมีมิติใหม่ๆ ที่ไม่รู้จักและเกี่ยวกับพฤติกรรมทางการเงินที่ไม่ดีและผู้กระทำผิด และเราจำเป็นต้องลงทุนเวลาและผู้คนจำนวนมากขึ้นในพื้นที่ประเภทนี้ เท่าที่เราทำได้ เราจะทำสิ่งนี้ผ่านการลงทุนซ้ำเพื่อประสิทธิภาพที่ได้รับภายในความพยายามเฝ้าระวังธุรกรรมที่มีมาตรฐานมากขึ้น

ระยะต่อไปของการเฝ้าระวังการทำธุรกรรม

ความทะเยอทะยานโดยรวมของธนาคารคือการสอดส่องธุรกรรมเพื่อให้มีความบูรณาการและเชิงรุกมากขึ้น แทนที่จะอาศัยเพียงการแจ้งเตือนที่สร้างขึ้นจากกลไกที่อิงตามกฎ ผู้บริหารต้องการใช้การเฝ้าระวังความเสี่ยงแบบบูรณาการหลายระดับเพื่อตรวจสอบแบบองค์รวมตั้งแต่ระดับ การรวมกันนี้จะช่วยให้ธนาคารพบผู้กระทำความผิดมากขึ้น และทำได้อย่างมีประสิทธิผลและประสิทธิผลมากขึ้น ผู้บริหารการปฏิบัติตามกฎระเบียบอธิบายรายละเอียดเพิ่มเติม:

สิ่งสำคัญคือต้องสังเกตว่าผู้ฟอกเงินและผู้หลบเลี่ยงการคว่ำบาตรมักจะค้นหาวิธีการใหม่ๆ ในการทำสิ่งต่างๆ อยู่เสมอ บุคลากรของเราต้องทำงานร่วมกับเทคโนโลยีและความสามารถในการวิเคราะห์ข้อมูลเพื่อนำหน้าภัยคุกคามที่เกิดขึ้นใหม่เหล่านี้ เราต้องการเพิ่มเวลาว่างที่บุคลากรของเราใช้ไปกับการตรวจสอบการแจ้งเตือนที่ยุ่งยากและต้องทำด้วยตนเอง และใช้เวลานั้นเพื่อให้ทันกับภัยคุกคามที่เกิดขึ้นใหม่

นักวิเคราะห์ที่เป็นมนุษย์จะยังคงมีบทบาทสำคัญในการสอดส่องธุรกรรม AML แม้ว่าวิธีที่พวกเขาใช้เวลาและความเชี่ยวชาญของมนุษย์จะยังคงพัฒนาต่อไป

ผู้บริหารด้านการปฏิบัติตามกฎระเบียบยังได้แบ่งปันมุมมองเกี่ยวกับ AI อีกด้วย: "มันเป็นระบบอัจฉริยะที่เพิ่มขึ้นจริงๆ แทนที่จะเป็น AI แบบอัตโนมัติในการเฝ้าระวังความเสี่ยง เราไม่คิดว่าเราสามารถลบวิจารณญาณของมนุษย์ออกจากการตัดสินใจขั้นสุดท้ายได้ เนื่องจากการประเมินสิ่งที่เป็นและไม่เป็นที่น่าสงสัยในบริบทของการฟอกเงินและอาชญากรรมทางการเงินอื่นๆ เราไม่สามารถกำจัดองค์ประกอบที่เป็นอัตนัยนี้ได้ แต่เราสามารถลดการทำงานด้วยตนเองที่นักวิเคราะห์ที่เป็นมนุษย์ทำ ซึ่งเป็นส่วนหนึ่งของการตรวจสอบและประเมินการแจ้งเตือน”

บทเรียนที่เราเรียนรู้จากกรณีนี้

  • ระบบอัตโนมัติที่สร้างการแจ้งเตือนจำนวนมากซึ่งส่วนใหญ่กลายเป็นผลบวกที่ผิดพลาดไม่ได้ช่วยประหยัดแรงงานมนุษย์

  • เทคโนโลยี AI หลายประเภท (ในกรณีนี้คือ กฎ ML และ Network Link Analytics) สามารถรวมเข้าด้วยกันเพื่อปรับปรุงความสามารถของระบบ

  • บริษัทต่างๆ อาจไม่ลดจำนวนคนที่ทำงานแม้ว่าระบบ AI จะปรับปรุงประสิทธิภาพการทำงานอย่างมากก็ตาม แต่พนักงานสามารถใช้เวลาว่างในการทำงานกับงานใหม่ที่มีมูลค่าสูงกว่าในงานของตนได้

  • เนื่องจากการประเมินธุรกรรมทางธุรกิจที่ซับซ้อนมักมีองค์ประกอบเชิงอัตวิสัยเสมอ จึงไม่อาจตัดวิจารณญาณของมนุษย์ออกจากกระบวนการประเมินผลได้

ผลิตภัณฑ์ทั้งหมดที่แนะนำโดย Engadget ได้รับการคัดเลือกโดยทีมบรรณาธิการของเรา โดยไม่ขึ้นกับบริษัทแม่ของเรา เรื่องราวของเราบางส่วนรวมถึงลิงค์พันธมิตร หากคุณซื้อบางอย่างผ่านลิงก์ใดลิงก์หนึ่งเหล่านี้ เราอาจได้รับค่าคอมมิชชั่นจากพันธมิตร ราคาทั้งหมดถูกต้องในขณะที่เผยแพร่

แหล่ง