ว่าด้วยคุณภาพข้อมูล - หลักการพื้นฐาน
(substack.com/pivotal)ข้อมูลไม่มีคุณภาพโดยกำเนิด และยิ่งข้อมูลสร้างคุณค่าได้มากขึ้นในกรณีใช้งานเฉพาะ ก็ยิ่งประเมินได้ว่ามีคุณภาพสูงขึ้น
คุณภาพข้อมูลประกอบด้วย 4 ระดับ ได้แก่ ข้อมูลรายชิ้น/คอร์ปัสทั้งหมด/ความเหมาะสมกับวัตถุประสงค์/ผลลัพธ์ทางธุรกิจ โดยระดับล่างทำให้ระดับบนเป็นไปได้ และระดับบนให้เหตุผลในการลงทุนกับระดับล่าง
ข้อมูลรายได้ที่ถูกต้องอาจเหมาะกับงานบัญชี แต่ไม่เหมาะกับการบริหารแบบเรียลไทม์หรือการคาดการณ์รายได้ในอนาคต ดังนั้นการประเมินคุณภาพของข้อมูลเดียวกันจึงเปลี่ยนไปตามผู้ใช้และวัตถุประสงค์
หากมุ่งตรวจสอบคุณลักษณะเพียงอย่างเดียว แม้จะสร้างข้อมูลที่สมบูรณ์แบบก็อาจไม่สร้างคุณค่าทางธุรกิจ แต่ในทางกลับกัน หากไล่ตามผลลัพธ์อย่างเดียวและละเลยคุณภาพพื้นฐาน ก็อาจสร้างระบบที่ไม่ยั่งยืนขึ้นมาได้
การจัดการคุณภาพข้อมูลไม่ควรหยุดอยู่แค่งานทำความสะอาดข้อมูล แต่ต้องรวมถึงกระบวนการวัดเส้นทางจากการใช้ข้อมูล→การเปลี่ยนแปลงในการตัดสินใจ→ผลลัพธ์ทางธุรกิจ และปรับการลงทุนตามผลลัพธ์ด้วย
เหตุผลที่นิยามมาตรฐานยังไม่เพียงพอ
ISO 8000 นิยามข้อมูลคุณภาพดีว่าเป็นข้อมูลที่เป็นไปตามข้อกำหนดที่ระบุไว้ แต่นี่เป็นนิยามแบบวนซ้ำที่แม้จะถูกต้อง แต่ไม่ได้ช่วยการตัดสินจริงมากนัก
ISO 25012 นิยามคุณภาพข้อมูลด้วยคุณลักษณะ 15 รายการ รวมถึงความถูกต้อง/ความครบถ้วน/ความสอดคล้อง
มีประโยชน์ต่อการตรวจสอบสภาพของข้อมูลรายชิ้น แต่ไม่สามารถครอบคลุมว่าข้อมูลนั้นมีส่วนช่วยต่อการใช้งานจริงและผลลัพธ์ทางธุรกิจหรือไม่
เหตุผลที่ผู้ปฏิบัติงานหลายคนประเมินข้อมูลเดียวกันต่างกัน คือพวกเขาตัดสินโดยอ้างอิงระดับคุณภาพและวัตถุประสงค์การใช้งานที่ต่างกัน
คุณภาพข้อมูลเกิดจากคุณค่าของข้อมูล
ข้อมูลไม่มีคุณค่าโดยตัวมันเอง สิ่งที่กำหนดคุณค่าคือเราสามารถทำอะไรกับข้อมูลนั้นได้
ตรรกะที่ใช้ใน
วิธีตั้งราคาสินทรัพย์ข้อมูล
สามารถนำมาประยุกต์กับคุณภาพได้เช่นกัน
คุณภาพข้อมูลคือคุณลักษณะที่เพิ่มคุณค่าของข้อมูล
เนื่องจากคุณค่าของข้อมูลเป็นฟังก์ชันของวิธีใช้งาน คุณภาพข้อมูลจึงถูกกำหนดตามวิธีใช้งานด้วย
เป้าหมายของการยกระดับคุณภาพคือการทำสิ่งต่าง ๆ ได้มากขึ้นด้วยข้อมูล ทำสิ่งเดิมให้ดีขึ้น เร็วขึ้น และถูกลง หรือทำให้สิ่งที่ต่างจากเดิมเป็นไปได้
ระดับที่ 1: คุณภาพข้อมูลรายชิ้น
คุณภาพระดับละเอียด (granular quality) ประเมินหน่วยข้อมูลรายชิ้น เช่น เรคอร์ดในฐานข้อมูล/ประโยค/คู่คำถาม-คำตอบ/ตัวอย่างที่ติดป้ายกำกับ
คุณลักษณะหลักที่ใช้ประเมินประกอบด้วยความถูกต้อง/ความแม่นยำ/ความเป็นปัจจุบัน/ความเหมาะสมของรูปแบบ/ความสอดคล้องภายใน/ความสมเหตุสมผล/แหล่งที่มา/ความตีความได้/ความน่าเชื่อถือ
คุณลักษณะแต่ละอย่างสามารถประเมินได้จากหน่วยข้อมูลรายชิ้นเพียงอย่างเดียว โดยไม่ต้องดูเรคอร์ดอื่น
อย่างไรก็ตาม การประเมินทั้งหมดต้องตั้งอยู่บนบริบทการใช้งาน
ต้องกำหนดว่าอะไรคือเกณฑ์ของความจริง
อะไรคือจุดเวลาที่ถือว่าเป็นปัจจุบัน
ข้อมูลใช้ได้ในลักษณะใด
และสอดคล้องในบริบทใด
คุณภาพรายชิ้นของข้อมูลรายได้
หากตีความเงื่อนไขสัญญา/การต่ออายุ/ส่วนลด/รายได้ครั้งเดียวและรายได้ประจำผิด รายการรายได้รายชิ้นก็อาจผิดตั้งแต่ต้น
แม้จะบันทึกไว้อย่างถูกต้อง การรับรู้รายได้จากมาร์เก็ตเพลซแบบยอดรวม (gross) หรือยอดสุทธิ (net) ก็ขึ้นอยู่กับโครงสร้างธุรกิจ
ต้องพิจารณาว่าธุรกิจให้คุณค่าโดยตรง ตั้งราคา และรับผิดชอบบริการด้วยหรือไม่
หรือใกล้เคียงกับตัวกลางที่เชื่อมผู้ซื้อกับผู้ขาย ซึ่งทำให้การตัดสินต่างกัน
แม้แต่ผู้สอบบัญชีก็อาจได้ข้อสรุปต่างกัน ดังนั้นความถูกต้องเองก็ไม่สามารถแยกออกจากวัตถุประสงค์การใช้งานและบริบททางบัญชีได้
ระดับที่ 2: คุณภาพของชุดข้อมูลทั้งหมด
แม้เรคอร์ดรายชิ้นทั้งหมดจะถูกต้อง ก็ไม่ได้รับประกันว่าคุณภาพของคอร์ปัสโดยรวม (aggregate quality) จะสูง
ในระดับภาพรวม ต้องประเมินคุณลักษณะต่อไปนี้
ขอบเขตและการขาดหาย
การลบรายการซ้ำ
ความละเอียดของข้อมูล
ความเป็นตัวแทนและสมดุล
ความสอดคล้องระหว่างเรคอร์ดและป้ายกำกับ
การกระจายตัวและสถิติรวม
ปริมาณข้อมูลและความเพียงพอ
ความต่อเนื่องตามเวลา
ความสามารถในการรวมกับข้อมูลอื่น
การ drift ตามเวลาและพื้นที่
คุณลักษณะเหล่านี้มองไม่เห็นจากข้อมูลรายชิ้น แต่ปรากฏจากความสัมพันธ์และการกระจายตัวของข้อมูลทั้งหมด
ต้องตรวจสอบว่าข้อมูลมีอยู่ครบหรือไม่/ถูกทำความสะอาดเพียงพอหรือไม่/สะท้อนความจริงหรือไม่/มีเสถียรภาพตามเวลาและพื้นที่หรือไม่
คุณภาพโดยรวมของข้อมูลรายได้
แม้เหตุการณ์รายได้รายชิ้นจะถูกบันทึกอย่างถูกต้อง ก็ยังอาจเหลือปัญหาต่อไปนี้
นิยามของรายได้เปลี่ยนไปกลางทางในข้อมูลอดีต
รายได้บางส่วนตกหล่น
รายได้เดียวกันถูกนับซ้ำ
ผลการรวมยอดจากหลายแหล่งไม่ตรงกัน
ข้อมูลที่สะท้อนลูกค้าปัจจุบันได้อย่างสมบูรณ์อาจมีคุณภาพสูงสำหรับบัญชีและรายงาน แต่ถ้าแตกต่างจากองค์ประกอบลูกค้าในอนาคต ก็อาจมีคุณภาพต่ำสำหรับการคาดการณ์รายได้จากการขยายตัว
ความเป็นตัวแทนของชุดข้อมูลต้องประเมินจากเป้าหมายที่จะนำไปใช้ ไม่ใช่จากตัวข้อมูลเอง
ระดับที่ 3: ความเหมาะสมกับวัตถุประสงค์
ความเหมาะสมกับวัตถุประสงค์ (fitness for purpose) ประเมินปฏิสัมพันธ์ระหว่างข้อมูลกับแอปพลิเคชันจริง มากกว่าคุณลักษณะของข้อมูล
งบการเงินไม่เหมาะกับแคมเปญโฆษณา และโปรไฟล์ลูกค้าไม่เหมาะกับการวิเคราะห์หุ้น แต่เมื่อเปลี่ยนการใช้งาน แต่ละอย่างก็อาจกลายเป็นข้อมูลที่จำเป็นได้
ความเหมาะสมเชิงสารสนเทศ
ประเมินว่าข้อมูลสามารถตอบคำถามที่ต้องการแก้ได้หรือไม่
ครอบคลุมความเกี่ยวข้อง/ความเหมาะสม/ความเพียงพอ/ความจำเป็น
ข้อเท็จจริงที่ว่าข้อมูลถูกต้อง กับข้อเท็จจริงที่ว่าข้อมูลให้สารสนเทศที่จำเป็น เป็นคนละประเด็นกัน
ความเหมาะสมเชิงปฏิบัติการ
ประเมินว่าสามารถใช้ข้อมูลได้อย่างมีประสิทธิภาพในสภาพแวดล้อมจริงหรือไม่
ครอบคลุมความพร้อมใช้งาน/ใบอนุญาตและการปฏิบัติตามกฎระเบียบ/การทำงานร่วมกัน/ผลตอบแทนเทียบกับความเสี่ยง
แม้สารสนเทศจะเพียงพอ แต่หากเข้าถึงไม่ได้ในเวลาที่จำเป็น หรือไม่สามารถใช้ได้ตามกฎหมาย ก็ไม่เหมาะกับวัตถุประสงค์
ความแตกต่างของข้อมูลรายได้ตามวัตถุประสงค์
การปิดยอดรายได้ปลายเดือนให้สมบูรณ์แบบต้องใช้เวลาหลายวันแม้สำหรับทีมการเงินที่ยอดเยี่ยม แต่ CEO อาจต้องตัดสินใจลงทุน/ลดค่าใช้จ่าย/จ้างงาน/เลิกจ้างภายในเดือนที่รายได้เบี่ยงเบนจากคาดการณ์
รายได้ที่ยืนยันแล้วซึ่งมีคุณภาพสูงสำหรับผู้สอบบัญชี อาจเป็นข้อมูลที่ช้าเกินไปสำหรับการดำเนินงานแบบเรียลไทม์
แม้ข้อมูลการเงินที่ละเอียดก็อาจไม่ตรงกับความต้องการของผู้ใช้แต่ละกลุ่ม
คณะกรรมการต้องการสรุปประเด็นสำคัญ
CMO ต้องการสัดส่วนการมีส่วนร่วมของการตลาด
ทีมขายต้องการขนาดค่าคอมมิชชันตามผลงาน
รายละเอียด/ความแตกต่างที่ละเอียดอ่อน/ข้อควรระวัง/มุมวิเคราะห์หลากหลายที่ช่วยเพิ่มคุณภาพให้ทีมการเงิน อาจกลับลดความสามารถในการใช้งานสำหรับผู้ใช้อื่น
ระดับที่ 4: คุณภาพผลลัพธ์ทางธุรกิจ
แม้คุณภาพรายชิ้น/คุณภาพโดยรวม/ความเหมาะสมกับวัตถุประสงค์จะยอดเยี่ยมทั้งหมด ก็ไม่ได้รับประกันว่าข้อมูลจะสร้างคุณค่าทางธุรกิจจริง
คุณภาพผลลัพธ์ทางธุรกิจ (business-outcome quality) ประเมินว่าข้อมูลปรับปรุงผลลัพธ์ของบริษัทได้มากเพียงใด
คะแนนประเมินดีขึ้น
อัตราการรักษารายได้ของบริษัทดีขึ้น
ผลตอบแทนที่ปรับตามความเสี่ยงดีขึ้น
อัตรา conversion ของลูกค้าเพิ่มขึ้น เป็นต้น
สามารถแบ่งเป็น 3 คำถามต่อไปนี้
ข้อมูลถูกนำไปใช้จริงหรือไม่
หลังใช้งานแล้ว อะไรเปลี่ยนไป
การเปลี่ยนแปลงนั้นคุ้มค่ากับการลงทุนหรือไม่
การวัดการใช้งานและผลลัพธ์
การใช้ข้อมูลวัดจากอัตราการนำไปใช้/ผลกระทบต่อการตัดสินใจ/ปริมาณการเปลี่ยนแปลงของพฤติกรรม
การเปลี่ยนแปลงของผลลัพธ์ประเมินจากความแตกต่างก่อนและหลัง/สัดส่วนการมีส่วนร่วมที่แม่นยำ/ความสำคัญของการเปลี่ยนแปลง
คุณค่าของการเปลี่ยนแปลงต้องพิจารณาไปถึงผลตอบแทนจากการลงทุน/ช่วงเวลาที่ผลลัพธ์ปรากฏ/ความต่อเนื่อง/ความเสี่ยง
กรณีที่ข้อมูลรายได้คุณภาพสูงล้มเหลว
แม้จะเปลี่ยนระบบค่าตอบแทนผลงานฝ่ายขายโดยอิงข้อมูลรายได้ที่ถูกต้อง ไม่มีอคติ และตรงกับความต้องการผู้ใช้ ผลลัพธ์ทางธุรกิจที่คาดหวังก็อาจไม่เกิดขึ้น
เมื่อทีมขายพุ่งเป้าเล่นตามสูตรใหม่ พฤติกรรมต่อไปนี้อาจเกิดขึ้น
เร่งดึงรายได้ในอนาคตมาไว้ข้างหน้าเพื่อรับค่าตอบแทนแบบเร่งอัตรา
เสนอส่วนลดที่บั่นทอนมาร์จิน
ไล่ทำสัญญาคุณภาพต่ำที่ปิดได้ง่าย แทนสัญญายากที่มีคุณค่าระยะยาวสูง
แม้ตัวข้อมูลเองจะมีคุณภาพสูงในทุกระดับล่าง แต่ระบบและการเปลี่ยนแปลงพฤติกรรมที่ใช้ข้อมูลนั้นอาจทำลายคุณค่าทางธุรกิจได้
ในระดับบนสุด สิ่งที่จำเป็นไม่ใช่การทำความสะอาดข้อมูลเพิ่มเติม แต่เป็นกระบวนการต่อไปนี้
นิยามคุณค่าที่ข้อมูลจะสร้างด้วยสมมติฐานที่ดีกว่าเดิม
วัดเส้นทางจากการใช้ข้อมูลไปสู่พฤติกรรมและผลลัพธ์
ลดหรือเพิ่มการลงทุนตามผลลัพธ์จริง
บันไดคุณภาพ
ทั้ง 4 ระดับไม่ใช่เช็กลิสต์ที่แยกจากกัน แต่เป็นบันไดที่มีลำดับและพึ่งพากัน
หากต้องการไปถึงความเหมาะสมกับวัตถุประสงค์และผลลัพธ์ทางธุรกิจ ต้องมีคุณภาพของข้อมูลรายชิ้นและข้อมูลทั้งหมดก่อน
ในทางกลับกัน คุณภาพระดับล่างไม่ได้สร้างคุณค่าโดยตัวมันเอง และต้องมีผลลัพธ์ระดับบนจึงจะเกิดเหตุผลในการลงทุน
ในระดับล่าง ต้องตรวจสอบว่าเราไม่ได้หมกมุ่นกับการตรวจคุณลักษณะจนลืมกรณีใช้งานทางธุรกิจหรือไม่
ในระดับบน ต้องตรวจสอบว่าเราไม่ได้หมกมุ่นกับผลลัพธ์จนละเลยสุขอนามัยข้อมูลพื้นฐานหรือไม่
รูปแบบความล้มเหลวของมาตรฐานเดิม
แนวทางแบบ ISO 25012 อาจตกหลุมเช็กลิสต์ คือวัดคุณลักษณะคุณภาพจำนวนมากแต่ธุรกิจไม่ดีขึ้น
แนวทางแบบ ISO 8000 หยุดอยู่ที่นิยามว่าข้อมูลที่ให้ผลลัพธ์ดีคือข้อมูลที่ดี จึงไม่บอกอย่างเป็นรูปธรรมว่าควรปรับปรุงอะไร
บันไดคุณภาพเชื่อมการตรวจสอบที่ลงมือทำได้ในระดับล่างกับการตัดสินคุณค่าในระดับบนไว้ในโครงสร้างเดียว
ความขัดแย้งที่เกิดขึ้นในคนละระดับ
การถกเถียงเรื่องคุณภาพข้อมูลมักเกิดขึ้นเมื่อผู้คนพูดกันคนละขั้นของบันได
วิศวกรปฏิบัติการข้อมูลให้ความสำคัญกับป้ายกำกับที่ถูกต้องและสภาพของเรคอร์ด แต่ข้อมูลนั้นอาจไม่ได้ถูกใช้ในธุรกิจ
CEO ให้ความสำคัญกับโมเดลปฏิบัติการในอุดมคติและผลลัพธ์ทางธุรกิจ แต่โมเดลนั้นอาจตั้งอยู่บนข้อมูลนำเข้าที่เชื่อถือได้ยาก
เมื่อเจอปัญหา ฝ่ายหนึ่งมองหาการแก้ไขข้อมูลรายละเอียดย่อย ส่วนอีกฝ่ายมองหากลยุทธ์ใหม่ แต่ไม่มีฝ่ายใดแก้ปัญหาทั้งหมดได้เพียงลำพัง
สามวิธีในการข้ามขั้น
ความล้มเหลวในการเปิดตัว
คือกรณีที่มุ่งเน้นระดับล่างมากเกินไป จนทำให้คุณภาพรายชิ้น/คุณภาพโดยรวม/ความเหมาะสมกับวัตถุประสงค์สมบูรณ์แบบ แต่ไม่สร้างคุณค่าทางธุรกิจเลย
ระดับล่างเป็นรูปธรรม วัดได้ และปรับปรุงโดยตรงได้ง่าย จึงเป็นจุดที่องค์กรโฟกัสได้ง่ายที่สุด
เพราะมีรายการที่วัดได้จำนวนมาก งานจัดระเบียบข้อมูลจึงอาจกลายเป็นเป้าหมายแทนผลลัพธ์จริง
ความล้มเหลวของรากฐาน
คือกรณีที่ละเลยระดับล่างและปรับให้เหมาะกับคุณค่าทางธุรกิจโดยตรงตั้งแต่ต้น
หากเป้าหมายชัดเจนและรอบฟีดแบ็กเร็วพอ อาจทำงานได้ชั่วคราว
แนวทางที่ว่าแม้ความถูกต้อง/แหล่งที่มา/ความเป็นปัจจุบันจะมีปัญหา แต่ขอเพียงผลลัพธ์ดีพอ โดยทั่วไปไม่ยั่งยืน และท้ายที่สุดปัญหาของข้อมูลพื้นฐานจะเผยตัวออกมา
การใช้แหล่งที่มาเป็นหลักฐานของคุณภาพ
แหล่งข้อมูลภายนอกที่น่าเชื่อถือสามารถช่วยรับประกันคุณภาพข้อมูลรายชิ้นและข้อมูลทั้งหมดแทนได้ ทำให้ลดการลงทุนตรวจสอบภายใน
หากเลือกผู้ให้บริการที่เชี่ยวชาญเฉพาะอุตสาหกรรม ก็สามารถลดภาระการตรวจสอบความเหมาะสมกับวัตถุประสงค์ได้ด้วย
อย่างไรก็ตาม คุณค่าทางธุรกิจต้องถูกสร้างโดยองค์กรที่ซื้อข้อมูลเอง
ความไว้วางใจต่อแหล่งข้อมูลไม่ได้เกิดขึ้นโดยอัตโนมัติ
มันก่อตัวผ่านเวลา/ทรัพยากร/ผลลัพธ์ซ้ำ ๆ
คงอยู่ตราบเท่าที่ข้อมูลยังทำงานได้ต่อเนื่อง
และลดลงอย่างรวดเร็วหากไม่ให้ผลลัพธ์ตามคาด
ขั้นตอนถัดไป
คุณภาพข้อมูลไม่ใช่คุณลักษณะสัมบูรณ์ที่มีอยู่ในตัวข้อมูลเอง แต่ปรากฏขึ้นจากวัตถุประสงค์การใช้งานและกระบวนการสร้างคุณค่า
การจัดการคุณภาพอย่างมีประสิทธิภาพต้องตรวจสอบทั้ง 4 ระดับ โดยไม่หยุดอยู่ที่ระดับใดระดับหนึ่ง
ตอนถัดไปจะกล่าวถึงว่า AI เปลี่ยนสัญชาตญาณเดิม ๆ เกี่ยวกับคุณภาพข้อมูลอย่างไร
ยังไม่มีความคิดเห็น