WEBVTT

00:00:01.041 --> 00:00:04.175
สวัสดีค่ะ ฉันชื่อ จอย เป็นกวีเขียนรหัส

00:00:04.199 --> 00:00:09.192
มีภาระหน้าที่เพื่อหยุดยั้ง
พลังที่เรามองไม่เห็นที่กำลังพุ่งขึ้นมา

00:00:09.216 --> 00:00:12.072
พลังที่ฉันเคยเรียกว่า
การจ้องมองที่ถูกเข้ารหัส (โคดเดด เกซ)

00:00:12.096 --> 00:00:15.405
ศัพท์ของฉันเอง สำหรับอคติในชุดคำสั่งขั้นตอนวิธี
(algorithmic bias)

NOTE Paragraph

00:00:15.429 --> 00:00:19.729
อคติที่ว่านั้น ก็เหมือนกับอคติของมนุษย์
มีผลทำให้เกิดความไม่เป็นธรรม

00:00:19.753 --> 00:00:25.775
แต่ขั้นตอนวิธีปฏิบัติ ก็เหมือนกับไวรัส
สามารถแพร่กระจายอคติ ไปได้อย่างกว้างขวาง

00:00:25.799 --> 00:00:27.381
ในย่างก้าวที่รวดเร็ว

00:00:27.943 --> 00:00:32.330
อคติในชุดคำสั่งขั้นตอนวิธี
ยังสามารถนำไปสู่ประสบการณ์ที่กันออกไป

00:00:32.354 --> 00:00:34.482
และการกระทำที่แบ่งแยกเลือกปฏิบัติ

00:00:34.506 --> 00:00:36.567
ขอแสดงให้คุณเข้าใจว่าฉันหมายถึงอะไร

NOTE Paragraph

00:00:36.980 --> 00:00:39.416
(วิดีโอ) จอยบัวลามวินิ: สวัสดีค่ะ กล้อง
ฉันมีใบหน้า

00:00:40.162 --> 00:00:42.026
คุณสามารถเห็นใบหน้าฉันหรือไม่ค่ะ

00:00:42.051 --> 00:00:43.676
ใบหน้าที่ไม่มีแว่นตานะค่ะ

00:00:43.701 --> 00:00:45.915
คุณสามารถเห็นใบหน้าของเธอได้

00:00:46.237 --> 00:00:48.482
แล้วใบหน้าของฉันเองล่ะ

00:00:51.890 --> 00:00:55.640
ฉันสวมหน้ากากอยู่นะ 
คุณสามารถเห็นหน้ากากของฉันหรือไม่ค่ะ

NOTE Paragraph

00:00:56.474 --> 00:00:58.839
จอย บัวลามมินิ: ค่ะ 
สิ่งนี้เกิดขึ้นได้อย่างไรหรือ

00:00:58.863 --> 00:01:02.004
ทำไมฉันจึงกำลังนั่งอยู่หน้าคอมพิวเตอร์

00:01:02.028 --> 00:01:03.452
ใส่หน้ากากสิขาว

00:01:03.476 --> 00:01:07.126
พยายามจะให้ถูกตรวจพบโดยเว็บแคมราคาถูก ๆ

00:01:07.150 --> 00:01:09.441
ค่ะ เมื่อฉันไม่ได้กำลังต่อสู้
อยู่กับโคดเด็ดเกซ

00:01:09.465 --> 00:01:10.985
ในฐานะเป็นกวีเขียนรหัส

00:01:11.009 --> 00:01:14.281
ฉันเป็นนักศึกษาบัณฑิตศึกษา
อยู่ที่ห้องทดลองสื่อที่สถาบัน MIT

00:01:14.305 --> 00:01:19.222
และที่นั่นฉันได้โอกาสทำงานในทุก ๆ เรื่อง
เกี่ยวกับโครงการแปลก ๆ ซึ่งรวมถึง

00:01:19.246 --> 00:01:21.273
กระจกตามความปรารถนา (Aspire Mirror)

00:01:21.297 --> 00:01:26.431
เป็นโครงการที่ฉันทำ เพื่อให้ฉันฉาย
หน้ากากดิจิตอล ลงบนภาพสะท้อนของฉันบนกระจก

00:01:26.455 --> 00:01:28.805
ดังนั้น ในตอนเช้า
ถ้าฉันต้องการจะรู้สึกมีพลัง

00:01:28.829 --> 00:01:30.263
ฉันก็ใส่หน้ากากสิงโต

00:01:30.287 --> 00:01:33.783
ถ้าต้องการทำให้รู้สึกเบิกบานใจ
ฉันอาจยกหรือคัดลอกคำพูดมา

00:01:33.807 --> 00:01:36.796
ดังนั้น ฉันจึงได้ใช้โปรแกรมจดจำใบหน้า 
แบบพื้นฐาน

00:01:36.820 --> 00:01:38.171
เพื่อสร้างระบบนั้นขึ้นมา

00:01:38.195 --> 00:01:43.298
แต่ก็ได้พบว่า มันยากจริง ๆ ที่จะทดสอบมัน
เว้นแต่ว่าฉันจะต้องใส่หน้ากากสีขาว

NOTE Paragraph

00:01:44.282 --> 00:01:48.628
โชคไม่ดีค่ะ ฉันเคยวิ่งเข้าไปพบปัญหานี้
มาก่อน

00:01:48.652 --> 00:01:52.955
เมื่อตอนเรียนปริญญาตรีอยู่ที่จอร์เจียเทค 
เรียนวิทยาศาสตร์คอมพิวเตอร์

00:01:52.979 --> 00:01:55.034
ฉันเคยทำงานเกี่ยวกับหุ่นยนต์สังคม

00:01:55.058 --> 00:01:58.835
และงานหน้าที่อย่างหนึ่งของฉันก็คือ
ให้หุ่นยนต์เล่นเกมจ๊ะเอ๋

00:01:58.859 --> 00:02:00.542
เป็นเกมง่าย ๆ แบบผลัดกันเล่น

00:02:00.566 --> 00:02:04.887
ที่ผู้เล่นปิดหน้าของตนไว้ แล้วก็เปิดออก
พร้อมกับพูดว่า "จ๊ะเอ๋"

00:02:04.911 --> 00:02:09.340
ปัญหาก็ตือ จะเล่น จ๊ะเอ๋ ไม่ได้
ถ้าฉันมองไม่เห็นคุณ

00:02:09.364 --> 00:02:11.863
และหุ่นยนต์ของฉันก็มองไม่เห็นฉัน

00:02:11.887 --> 00:02:15.837
แต่ฉันไปยืมใบหน้าของเพื่อนร่วมห้องมา
เพื่อให้โครงการนี้สำเร็จ

00:02:15.861 --> 00:02:17.241
ส่งงานนั้นให้อาจารย์ไปได้

00:02:17.265 --> 00:02:21.018
และก็คิดไปว่า คุณรู้ไหม
จะมีคนอื่นมาแก้ปัญหานี้

NOTE Paragraph

00:02:21.669 --> 00:02:23.672
หลังจากนั้นไม่นานนัก

00:02:23.696 --> 00:02:27.855
ตอนอยู่ที่ฮ่องกงในการแข่งขันผู้ประกอบการ

00:02:28.339 --> 00:02:31.033
ผู้จัดการแข่งขันตัดสินใจ
พาผู้เข้าร่วมการแข่งขัน

00:02:31.057 --> 00:02:33.429
ไปเที่ยวชมธุรกิจเติบโตเร็วในท้องถิ่น

00:02:33.453 --> 00:02:36.168
หนึ่งในธุรกิจเติบโตเร็วนั้นมีหุ่นยนต์สังคม
(social robot)

00:02:36.192 --> 00:02:38.104
และพวกเขาก็ตัดสินใจแสดงให้ดูเป็นตัวอย่าง

00:02:38.128 --> 00:02:41.108
การแสดงทำได้ดีกับทุก ๆ คน จนมาถึงฉัน

00:02:41.132 --> 00:02:43.055
และคุณก็น่าจะเดาออก

00:02:43.079 --> 00:02:46.044
มันตรวจไม่พบใบหน้าของฉัน

00:02:46.068 --> 00:02:48.579
ฉันเลยถามผู้ที่พัฒนาสร้างมันขึ้นมา
ว่าเกิดอะไรขึ้น

00:02:48.603 --> 00:02:54.136
และก็กลายเป็นว่า พวกเราใช้
โปรแกรมจดจำใบหน้าแบบพื้นฐานแบบเดียวกัน

00:02:54.160 --> 00:02:55.810
ห่างออกไปครึ่งหนึ่งของโลก

00:02:55.834 --> 00:02:59.686
ฉันเรียนรู้ว่าอคติในชุดคำสั่งขั้นตอนวิธี
สามารถเดินทางไปได้อย่างรวดเร็ว

00:02:59.710 --> 00:03:02.880
เท่า ๆ กับที่มันใช้เวลาคัดลอกบางแฟ้มข้อมูล
ของอินเตอร์เน็ตออกไปจนหมด

NOTE Paragraph

00:03:03.745 --> 00:03:06.821
ดังนั้น จึงเกิดอะไรขึ้นหรือค่ะ
ทำไมมันจึงตรวจไม่ใบหน้าของฉัน

00:03:06.845 --> 00:03:10.201
ค่ะ เราก็ต้องมาดูว่า เราให้เครื่องจักรกล
มองเห็นได้อย่างไร

00:03:10.225 --> 00:03:13.634
การมองเห็นของคอมพิวเตอร์นั้น 
ใช้เทคนิคการเรียนรู้ของเครื่องจักรกล

00:03:13.658 --> 00:03:15.538
เพื่อให้จดจำใบหน้าได้

00:03:15.562 --> 00:03:19.459
สิ่งนี้ทำงานอย่างไรนั้น คือ คุณสร้างชุด
การฝึกขึ้นมาพร้อมกับตัวอย่างใบหน้าแบบต่าง ๆ

00:03:19.483 --> 00:03:22.301
นี่เป็นใบหน้า นี่ก็เป็นใบหน้า
นี่ไม่ใช่ใบหน้า

00:03:22.325 --> 00:03:26.844
และเมื่อเวลาผ่านไป คุณก็สามารถสอนคอมพิวเตอร์
วิธีการจดจำใบหน้าอื่น ๆ ได้

00:03:26.868 --> 00:03:30.857
อย่างไรก็ตาม ถ้าหากว่าชุดการฝึกนั้น
ไม่มีความหลากหลายอย่างแท้จริงแล้ว

00:03:30.881 --> 00:03:34.230
ใบหน้าใดก็ตามที่เบี่ยงเบนไปอย่างมาก
จากบรรทัดฐานที่สร้างขึ้นมา

00:03:34.254 --> 00:03:35.903
ก็จะเป็นการยากที่จะตรวจพบได้

00:03:35.927 --> 00:03:37.890
ซึ่งก็คือ สิ่งที่กำลังเกิดขึ้นกับฉัน

NOTE Paragraph

00:03:37.914 --> 00:03:40.296
แต่ไม่ต้องเป็นห่วงนะคะ -- มีข่าวดีอยู่บ้าง

00:03:40.320 --> 00:03:43.091
ชุดการฝึกนั้น ไม่ได้แค่เป็นตัวเป็นตน
ขึ้นมาได้เอง

00:03:43.115 --> 00:03:44.903
จริง ๆ เราสามารถสร้างพวกมันขึ้นมาได้

00:03:44.927 --> 00:03:49.103
ดังนั้นจึงมีโอกาสที่จะสร้าง
ชุดการฝึกแบบครบถ้วนทุกส่วน

00:03:49.127 --> 00:03:52.951
ที่สะท้อนภาพเหมือนของมนุษย์
ได้สมบูรณ์ยิ่งขึ้น

NOTE Paragraph

00:03:52.975 --> 00:03:55.196
ค่ะ คุณก็ได้เห็นในตัวอย่างของฉันแล้ว

00:03:55.220 --> 00:03:56.988
ว่า หุ่นยนต์สังคมเป็นอย่างไร

00:03:57.012 --> 00:04:01.623
ฉันค้นพบได้อย่างไร เกี่ยวกับการกันแยกออกไป
ด้วยอคติของชุดคำสั่งปฏิบัติ

00:04:01.647 --> 00:04:06.462
แต่อคติของชุดคำสั่งขั้นตอนวิธี ยังสามารถ
นำไปสู่การเลือกปฏิบัติได้อีกด้วย

00:04:07.437 --> 00:04:08.890
ขณะนี้ทั่วทั้งสหรัฐ

00:04:08.914 --> 00:04:13.112
กรมตำรวจกำลังเริ่มใช้โปรแกรมการจดจำใบหน้า

00:04:13.136 --> 00:04:15.595
ในคลังแสงต่อสู้อาชญากรรมของพวกเขา

00:04:15.619 --> 00:04:17.632
คณะกฎหมายมหาวิทยาลัยจอร์ดทาวน์
ได้ตีพิมพ์

00:04:17.656 --> 00:04:24.419
แสดงให้เห็นว่า ผู้ใหญ่หนึ่งในสองคน ในสหรัฐ
-- นั่นก็คือ คน 117 ล้านคน --

00:04:24.443 --> 00:04:27.977
มีใบหน้าของพวกเขา
อยู่ในเครือข่ายของการจดจำใบหน้าแล้ว

00:04:28.001 --> 00:04:32.553
ปัจจุบันกรมตำรวจสามารถเข้าไป
ดูเครือข่ายเหล่านี้ได้ โดยไม่มีการควบคุม

00:04:32.577 --> 00:04:36.863
โดยใช้ชุดคำสั่งที่ยังไม่ได้ถูกตรวจสอบ
ในเรื่องความเที่ยงตรง

00:04:36.887 --> 00:04:40.751
แต่เราก็รู้ว่า การจดจำใบหน้า 
ไม่ใช่ข้อมูลที่ใช้ไม่ได้

00:04:40.775 --> 00:04:44.954
และการบอกชื่อลักษณะของใบหน้า
ก็ยังคงเป็นสิ่งที่ท้าทาย

00:04:44.978 --> 00:04:46.740
คุณอาจจะได้เห็นสิ่งนี้มาแล้ว ในเฟซบุค

00:04:46.764 --> 00:04:49.752
เพื่อน ๆ ฉันและตัวฉันหัวเราะตลอดเวลา
เมื่อเราเห็นคนอื่น ๆ

00:04:49.776 --> 00:04:52.234
ติดป้ายชื่อผิด ๆ ในภาพของเรา

00:04:52.258 --> 00:04:57.849
แต่การระบุตัวอาชญากรผู้ต้องสงสัยผิดไป
ไม่ใช่เรื่องน่าขบขัน

00:04:57.873 --> 00:05:00.700
และไม่ใช่เป็นเรื่องทำให้เกิดรอยแตกร้าว
ในเสรีภาพของพลเมือง

NOTE Paragraph

00:05:00.724 --> 00:05:03.929
การเรียนรู้ของเครื่องจักรกล กำลังถูกใช้
สำหรับการจดจำใบหน้า

00:05:03.953 --> 00:05:08.458
แต่มันยังกำลังขยายออกไปเกินขอบเขต
ของการมองเห็นของคอมพิวเตอร์

00:05:09.266 --> 00:05:13.282
หนังสือ "อาวุธของการทำลายเชิงคณิตศาสตร์" 
(Weapons of Math Destruction)

00:05:13.306 --> 00:05:19.987
นักวิทยาศาสตร์ข้อมูล แคธี่ โอนีล พูดถึง 
การเกิดขึ้นของ ดับเบิลยูเอ็มดี แบบใหม่ --

00:05:20.011 --> 00:05:24.364
คือ ชุดคำสั่งที่ ขยายกว้าง (widespread)
ลึกลับ (mysterious) ทำลายล้าง (destructive)

00:05:24.388 --> 00:05:27.352
ที่กำลังถูกใช้เพิ่มมากขึ้น
เพื่อใช้ในการตัดสินใจ

00:05:27.376 --> 00:05:30.553
ที่เกิดผลกระทบต่อด้านต่าง ๆ 
ในชีวิตของเรามากยิ่งขึ้น

00:05:30.577 --> 00:05:32.447
ใครถูกจ้างงาน หรือถูกไล่ออกหรือคะ

00:05:32.471 --> 00:05:34.583
คุณได้เงินกู้นั่น หรือได้ประกันหรือไม่คะ

00:05:34.607 --> 00:05:38.110
คุณได้รับการตอบรับให้เข้าเรียน
ในมหาวิทยาลัยที่คุณต้องการหรือไม่คะ

00:05:38.134 --> 00:05:41.643
คุณและฉันจ่ายเงินซื้อสินค้าอย่างเดียวกัน
ในราคาที่เท่ากันหรือไม่คะ

00:05:41.667 --> 00:05:44.109
เมื่อสินค้านั้นถูกซื้อบนฐานงานเดียวกัน

NOTE Paragraph

00:05:44.133 --> 00:05:47.892
การบังคับกฏหมาย กำลังเริ่มต้นที่จะใช้
การเรียนรู้ของเครื่องจักรกล

00:05:47.916 --> 00:05:50.205
เพื่อคาดเดาและระบุอาชญากรรม

00:05:50.229 --> 00:05:53.723
ผู้พิพากษาบางคนใช้คะแนนความเสี่ยง
ที่ได้จากเครื่องจักรกล เพื่อตัดสินใจว่า

00:05:53.747 --> 00:05:58.149
บุคคลหนึ่งจะใช้เวลาติดคุกนานเท่าใด

00:05:58.173 --> 00:06:00.627
แท้จริง เราจึงต้องคิดเกี่ยวกับ
การตัดสินใจเหล่านี้

00:06:00.651 --> 00:06:01.833
มันยุติธรรมหรือไม่

00:06:01.857 --> 00:06:04.747
และเราก็ได้เห็นแล้วว่า
อคติในชุดคำสั่งขั้นตอนการวิธีนั้น

00:06:04.771 --> 00:06:08.145
ไม่ได้จำเป็นเสมอว่า
จะนำไปสู่ผลลัพธ์ที่เป็นธรรม

NOTE Paragraph

00:06:08.169 --> 00:06:10.133
ดังนั้น เราจะสามารถทำอะไรได้ในเรื่องนี้

00:06:10.157 --> 00:06:13.837
ค่ะ เราสามารถเริ่มคิดเกี่ยวกับว่า 
จะสร้างรหัสที่ครอบคลุมเบ็ดเสร็จยิ่งกว่านี้

00:06:13.861 --> 00:06:16.851
และใช้วิธีการปฏิบัติในการลงรหัส
ที่ครอบคลุมเบ็ดเสร็จ ได้อย่างไร

00:06:16.875 --> 00:06:19.184
โดยแท้จริงแล้ว มันเริ่มต้นจากผู้คน

00:06:19.708 --> 00:06:21.669
ใครเป็นคนลงรหัส จึงเป็นเรื่องสำคัญ

00:06:21.693 --> 00:06:25.812
เรากำลังสร้างทีมงานที่ครบถ้วนทุกส่วน
พร้อมกับบุคคลที่หลากหลายหรือไม่

00:06:25.836 --> 00:06:28.247
มีใครที่จะสามารถตรวจสอบ
จุดบอดของแต่ละคนหรือไม่

00:06:28.271 --> 00:06:31.816
ในด้านเทคนิคนั้น เราลงรหัสอย่างไร
เป็นสิ่งสำคัญ

00:06:31.840 --> 00:06:35.491
เราแบ่งแยกออกเป็นส่วนๆในเรื่องความเป็นธรรม
ขณะที่เราพัฒนาระบบหรือไม่

00:06:35.515 --> 00:06:38.428
และท้ายสุด ทำไมเราจึงลงรหัส ก็สำคัญ

00:06:38.785 --> 00:06:43.868
เราใช้เครื่องมือของการสร้างเชิงคอมพิวเตอร์
เพื่อปลดล็อกความมั่งคั่งที่มากมาย

00:06:43.892 --> 00:06:48.339
ถึงตอนนี้ เรามีโอกาสที่จะปลดล็อกเปิดได้
แม้กระทั่งระดับคุณภาพที่ยิ่งใหญ่กว่า

00:06:48.363 --> 00:06:51.293
ถ้าเราทำให้การเปลี่ยนแปลงทางสังคมนั้น
เป็นสิ่งสำคัญอันดับแรก

00:06:51.317 --> 00:06:53.487
และไม่ใช่เป็นสิ่งที่จะนำมาคิดพิจารณา
ในภายหลัง

00:06:54.008 --> 00:06:58.530
และทั้งหมดนี้ คือ หลักการสามข้อที่จะ
ก่อร่างขึ้นเป็นความเคลื่อนไหว "การลงรหัส"

00:06:58.554 --> 00:07:00.206
คนที่ลงรหัสนั้นสำคัญ

00:07:00.230 --> 00:07:01.773
เราจะลงรหัสอย่างไรนั้นสำคัญ

00:07:01.797 --> 00:07:03.820
และทำไมเราจึงลงรหัส ก็สำคัญ

NOTE Paragraph

00:07:03.844 --> 00:07:06.943
ดังนั้น จะไปสู่การลงรหัส
เราสามารถเริ่มต้นการคิดเกี่ยวกับ

00:07:06.967 --> 00:07:10.131
การสร้างฐานงานที่สามารถระบุอคติได้

00:07:10.155 --> 00:07:13.233
โดยการรวบรวมประสบการณ์ของผู้คน
เช่น คนที่ฉันได้ไปแบ่งปันความคิด

00:07:13.257 --> 00:07:16.327
และก็ยังไปตรวจสอบโปรแกรมคอมพิวเตอร์
ที่มีอยู่อีกด้วย

00:07:16.351 --> 00:07:20.116
เรายังสามารถที่จะสร้างชุดการฝึก
ที่ครอบคลุมเบ็ดเสร็จยิ่งกว่านี้ได้อีกด้วย

00:07:20.140 --> 00:07:22.943
ลองคิดดูซิคะ รณรงค์
"มือถือถ่ายภาพตัวเอง เพื่อนำไปรวมด้วย"

00:07:22.967 --> 00:07:26.622
ซึ่งคุณและฉันสามารถช่วยนักพัฒนาทั้งหลาย
ทดสอบและสร้างขึ้นมาได้

00:07:26.646 --> 00:07:28.739
ชุดการฝึกแบบครอบคลุมเบ็ดเสร็จ

00:07:29.302 --> 00:07:32.130
และเรายังเริ่มต้นการคิดที่
เป็นเรื่องเป็นราวยิ่งขึ้นได้อีก

00:07:32.154 --> 00:07:37.545
เกี่ยวกับผลกระทบของเทคโนโลยีต่อสังคม
ที่เรากำลังพัฒนากัน

NOTE Paragraph

00:07:37.569 --> 00:07:39.962
เพื่อให้การเคลื่อนไหวเชิงการลงรหัส 
เริ่มต้นขึ้นมา

00:07:39.986 --> 00:07:42.833
ฉันได้เริ่ม คณะเพื่อความเป็นธรรม
ด้านชุดคำสั่งขั้นตอนวิธี

00:07:42.857 --> 00:07:48.729
ซึ่งใครๆที่สนใจเกี่ยวกับความเป็นธรรมมาร่วม
ช่วยต่อสู้เรื่อง การจ้องมองที่ถูกเข้ารหัส

00:07:48.753 --> 00:07:52.049
ที่ codedgaze.com 
คุณสามารถรายงานเกี่ยวกับ อคติ

00:07:52.073 --> 00:07:54.518
ร้องขอการตรวจสอบ มาเป็นผู้ทดสอบ

00:07:54.542 --> 00:07:57.313
และเข้ามาร่วมการสนธนาที่กำลังมีอยู่

00:07:57.337 --> 00:07:59.624
ที่ #codedgaze

NOTE Paragraph

00:08:00.742 --> 00:08:03.229
จึงขอเชิญชวนคุณให้มาร่วมกับฉัน

00:08:03.253 --> 00:08:06.972
ในการสร้างโลกใบหนึ่ง ซึ่งเทคโนโลยี
ทำงานให้กับเราทุกคน

00:08:06.996 --> 00:08:08.893
ไม่ใช่แค่พวกเราบางคน

00:08:08.917 --> 00:08:13.505
โลกใบหนึ่ง ที่เราเห็นคุณค่าในการรวมกัน
และมีศูนย์กลางอยู่ที่การเปลี่ยนแปลงสังคม

NOTE Paragraph

00:08:13.529 --> 00:08:14.704
ขอบคุณค่ะ

NOTE Paragraph

00:08:14.728 --> 00:08:18.999
(เสียงปรบมือ)

NOTE Paragraph

00:08:20.873 --> 00:08:23.727
แต่ฉันมีคำถามหนึ่ง

00:08:23.751 --> 00:08:25.810
คุณจะมาเข้าร่วมกับฉันในการต่อสู้หรือไม่คะ

NOTE Paragraph

00:08:25.834 --> 00:08:27.119
(เสียงหัวเราะ)

NOTE Paragraph

00:08:27.143 --> 00:08:30.830
(เสียงปรบมือ)