รีวิวใน Google Maps มาจากไหน

เมื่อคุณต้องการค้นหาสถานที่แห่งใหม่ รีวิวใน Google จะเป็นแหล่งข้อมูลที่นำคุณไปสู่สถานที่และธุรกิจต่างๆ ได้ตรงกับความต้องการของคุณมากที่สุด ไม่ว่าจะเป็นร้านเบเกอรี่ที่ขายคัพเค้กปลอดกลูเตนรสเยี่ยม หรือร้านอาหารใกล้คุณที่มีดนตรีสดก็ตาม

เพราะผู้คนทั่วโลกโพสต์รีวิวนับล้านทุกวัน เราจึงมีระบบสนับสนุนตลอด 24 ชั่วโมงที่คอยจัดระเบียบข้อมูลบน Google ให้ถูกต้องแม่นยำและตรงประเด็นอยู่เสมอ ซึ่งแน่นอนว่าการป้องกันเนื้อหาที่ไม่เหมาะสมเช่นนี้เป็นสิ่งที่ดำเนินการอยู่ในระบบเบื้องหลัง เราจึงคิดว่าน่าจะดีไม่น้อยหากได้อธิบายให้คุณเห็นกระบวนการที่จะเกิดขึ้นเมื่อคุณกด “โพสต์” รีวิว

วิธีที่เรากำหนดและบังคับใช้นโยบาย

เราได้กำหนดนโยบายเนื้อหาที่เคร่งครัดขึ้นเพื่อให้รีวิวมีฐานอยู่บนประสบการณ์ที่ผู้เขียนได้สัมผัสมาจริง และปราศจากการแสดงความคิดเห็นที่ไม่เกี่ยวข้องหรือไม่เหมาะสมใน Google Business Profile

นโยบายและการป้องกันของเราได้รับการปรับปรุงอยู่ตลอดเวลาเพื่อให้สอดรับกับสถานการณ์ปัจจุบัน จึงช่วยให้เราปกป้องสถานที่และธุรกิจต่างๆ จากเนื้อหาที่ละเมิดหรือไม่เกี่ยวข้องได้ในกรณีที่เป็นไปได้ว่าสถานที่เหล่านี้จะตกเป็นเป้าหมายของการละเมิด ตัวอย่างเช่น เมื่อรัฐและธุรกิจต่างๆ กำหนดให้ต้องแสดงหลักฐานการฉีดวัคซีนโควิด-19 ก่อนเข้าบริเวณ เราก็ยกระดับการปกป้องเพื่อนำรีวิว Google ที่วิพากษ์วิจารณ์นโยบายด้านสุขภาพและความปลอดภัยของธุรกิจนั้นๆ ออก หรือเพื่อให้เป็นไปตามกฎระเบียบด้านวัคซีน

นโยบายที่กำหนดขึ้นจะบรรจุลงในเนื้อหาฝึกอบรมสำหรับทั้งเจ้าหน้าที่และอัลกอริทึมแมชชีนเลิร์นนิงของเรา เพื่อให้ทีมสามารถตรวจจับเนื้อหาที่ละเมิดนโยบาย ตลอดจนทำให้รีวิวของ Google ตรงตามความเป็นจริงและเป็นประโยชน์แก่ผู้ใช้ต่อไป

การกลั่นกรองรีวิวด้วยแมชชีนเลิร์นนิง

เมื่อมีผู้โพสต์รีวิว เราจะส่งรีวิวนั้นไปยังระบบกลั่นกรองเพื่อตรวจสอบว่าเป็นไปตามนโยบาย ซึ่งอาจมองได้ว่าระบบเป็นเหมือนเจ้าหน้าที่รักษาความปลอดภัยที่คอยคัดกรองผู้ต้องสงสัยก่อนเข้าอาคาร ต่างกันเพียงแต่ทีมของเราคัดกรองเนื้อหาที่ไม่ดีไม่ให้โพสต์ลงบน Google เท่านั้น

เมื่อพิจารณาถึงปริมาณรีวิวที่เราได้รับเป็นประจำ เราพบว่าเราต้องอาศัยทั้งความเข้าใจที่ละเอียดอ่อนของมนุษย์และความสามารถในการจัดการปริมาณรีวิวจำนวนมากของแมชชีนมาช่วยกลั่นกรองเนื้อหาที่ส่งเข้ามา ซึ่งปัจจัยทั้งสองล้วนแล้วแต่มีข้อดีต่างกัน จึงเป็นสาเหตุให้เราทุ่มเทพัฒนาทั้ง 2 ด้านอย่างต่อเนื่อง

แมชชีนเป็นเครื่องป้องกันด่านแรกเนื่องจากสามารถตรวจจับรูปแบบได้ดี รูปแบบเช่นนี้จะทำให้แมชชีนระบุได้ทันทีว่าเนื้อหาเป็นไปตามเกณฑ์หรือไม่ เนื้อหาที่ไม่เป็นจริงและหลอกลวงส่วนใหญ่จึงถูกลบก่อนที่จะมีใครพบเห็น

แมชชีนของเราพิจารณารีวิวด้วยหลักเกณฑ์หลายประการ เช่น

• เนื้อหาของรีวิว: ไม่เหมาะสมหรือไม่เกี่ยวข้องหรือไม่
• บัญชีของผู้เขียนรีวิว: บัญชี Google มีประวัติต้องสงสัยหรือไม่
• ตัวสถานที่: มีความเคลื่อนไหวที่น่าสงสัยหรือไม่ เช่น ได้รับการรีวิวจำนวนมากเป็นพิเศษภายในช่วงเวลาอันสั้น หรือเพิ่งได้รับการกล่าวถึงในข่าวหรือโซเชียลมีเดียจนอาจทำให้ผู้คนอยากเขียนรีวิวหลอกลวง

การฝึกแมชชีนให้รู้จักความแตกต่างระหว่างเนื้อหาที่ยอมรับได้กับเนื้อหาที่ละเมิดนโยบายเป็นเรื่องละเอียดอ่อน ยกตัวอย่างเช่นบางครั้งคำว่า “เกย์” ก็ถูกใช้ในแง่ลบ ซึ่งเราจะไม่ยอมให้มีในรีวิวของ Google เป็นอันขาด แต่ถ้าเราสอนแมชชีนเลิร์นนิงว่าคำนี้เข้าข่ายเป็นวาจาสร้างความเกลียดชังเท่านั้น เราก็อาจพลั้งนำรีวิวที่สนับสนุนเจ้าของธุรกิจที่เป็นเกย์หรือสถานที่ปลอดภัยสำหรับ LGBTQ+ ออกไปได้ เจ้าหน้าที่ของเราจึงตรวจสอบคุณภาพและรับการอบรมเพิ่มเติมอยู่เสมอเพื่อนำความไม่เที่ยงตรงออกจากเกณฑ์ของแมชชีนเลิร์นนิง เราฝึกแมชชีนของเราให้รู้จักแง่มุมทั้งหมดที่มนุษย์สามารถใช้คำหรือวลีหนึ่งๆ เพื่อพัฒนาความสามารถในการตรวจจับเนื้อหาที่ละเมิดนโยบาย และลดโอกาสที่จะคัดกรองผิดพลาดเนื่องจากไปลบรีวิวที่ถูกต้องตามเกณฑ์โดยไม่ตั้งใจ

หากระบบตรวจไม่พบการละเมิดนโยบายใดๆ รีวิวก็จะโพสต์ขึ้นออนไลน์ภายในไม่กี่วินาที แต่งานของเรายังไม่หมดเพียงเท่านี้ ระบบจะยังคงวิเคราะห์เนื้อหาที่ผู้ใช้ส่งเข้ามาและเฝ้าระวังรูปแบบที่น่าสงสัยต่อไป รูปแบบเหล่านี้อาจเป็นอะไรก็ได้ตั้งแต่การที่คนจำนวนหนึ่งเขียนรีวิวให้ Business Profile ที่อยู่ในกลุ่มเดียวกัน ไปจนถึงการที่สถานที่หรือธุรกิจได้รับรีวิว 1 หรือ 5 ดาวมากเป็นพิเศษภายในระยะเวลาสั้นๆ

การรักษาความถูกต้องและเชื่อถือได้ของรีวิว

ในฐานะที่เป็นแพลตฟอร์มซึ่งเปิดกว้างให้ผู้ใช้เข้ามามีส่วนร่วม เราจึงต้องตื่นตัวป้องกันไม่ให้มีการฉ้อโกงและละเมิดเกิดขึ้นบน Google Maps อยู่เสมอ วิธีการหนึ่งคือการทำให้ทุกคนสามารถแจ้งรีวิวที่ละเมิดนโยบายผ่าน Google Maps ได้โดยง่าย หากคุณคิดว่าพบรีวิวบน Google ที่ละเมิดนโยบาย เราขอสนับสนุนให้คุณรายงานมายังทีมของเรา โดยธุรกิจต่างๆ สามารถรายงานรีวิวผ่านโปรไฟล์ของตนได้ที่นี่ และลูกค้าสามารถรายงานได้ที่นี่

ผู้ใช้ Google Maps และธุรกิจต่างๆ สามารถรายงานรีวิวที่ละเมิดนโยบายของเราได้ง่ายๆ

ทีมเจ้าหน้าที่ของเราทำงานตลอด 24 ชั่วโมงเพื่อตรวจสอบเนื้อหาที่ถูกแจ้งว่าไม่เหมาะสม เมื่อเราพบว่ารีวิวละเมิดนโยบาย เราจะนำรีวิวนั้นออกจาก Google และในบางกรณีจะระงับบัญชีของผู้เขียนรีวิวตลอดจนดำเนินการทางกฎหมายด้วย

นอกเหนือจากการตรวจสอบเนื้อหาที่ถูกแจ้ง ทีมของเรายังดำเนินการเชิงรุกเพื่อตรวจสอบความเสี่ยงที่จะเกิดการละเมิดอีกด้วย ซึ่งสามารถลดโอกาสที่ผู้ละเมิดจะโจมตีสำเร็จลงได้ ตัวอย่างเช่น หากกำลังจะมีงานสำคัญอย่างการเลือกตั้งเกิดขึ้น เราก็จะยกระดับการปกป้องให้แก่สถานที่ที่เกี่ยวข้องกับงานนั้นและธุรกิจอื่นๆ ในบริเวณใกล้เคียงที่ผู้ใช้อาจค้นหาบน Google Maps โดยคอยเฝ้าระวังอย่างต่อเนื่องจนกว่าความเสี่ยงในการละเมิดจะลดลง ทั้งนี้ก็เพื่อให้บรรลุพันธกิจของเราซึ่งจะเผยแพร่แต่รีวิวที่ถูกต้องและเชื่อถือได้เท่านั้น ความทุ่มเทของเราในการวิเคราะห์และศึกษาวิธีการละเมิดในเนื้อหาที่ผู้ใช้ส่งเข้ามาเป็นส่วนสำคัญอย่างยิ่งที่ทำให้เราเท่าทันผู้ไม่ประสงค์ดีอยู่เสมอ

จำนวนผู้ใช้ Google Maps เพื่อค้นหาและนำทางมากกว่า 1 พันล้านคนต่อเดือนทำให้เรามุ่งมั่นตรวจสอบว่าข้อมูลที่ทุกคนเห็นโดยเฉพาะอย่างยิ่งรีวิวนั้นเชื่อถือได้ ภารกิจนี้จะไม่มีวันสิ้นสุด เราจะพัฒนาระบบอย่างต่อเนื่องต่อไปและดำเนินการอย่างสุดความสามารถเพื่อไม่ให้แผนที่ของเรามีรีวิวที่ละเมิดและหลอกลวง

Ian Leader

Product Lead, User Generated Content

How Google Maps reviews work

When exploring new places, reviews on Google are a treasure trove of local knowledge that can point you to the places and businesses you’ll enjoy most — whether it’s a bakery with the best gluten-free cupcake or a nearby restaurant with live music.

With millions of reviews posted every day from people around the world, we have around-the-clock support to keep the information on Google relevant and accurate. Much of our work to prevent inappropriate content is done behind the scenes, so we wanted to shed some light on what happens after you hit “post” on a review.

How we create and enforce our policies

We’ve created strict content policies to make sure reviews are based on real-world experiences and to keep irrelevant and offensive comments off of Google Business Profiles.

As the world evolves, so do our policies and protections. This helps us guard places and businesses from violative and off-topic content when there’s potential for them to be targeted with abuse. For instance, when governments and businesses started requiring proof of COVID-19 vaccine before entering certain places, we put extra protections in place to remove Google reviews that criticize a business for its health and safety policies or for complying with a vaccine mandate. 

Once a policy is written, it’s turned into training material — both for our operators and machine learning algorithms — to help our teams catch policy-violating content and ultimately keep Google reviews helpful and authentic.

Moderating reviews with the help of machine learning

As soon as someone posts a review, we send it to our moderation system to make sure the review doesn’t violate any of our policies. You can think of our moderation system as a security guard that stops unauthorized people from getting into a building — but instead, our team is stopping bad content from being posted on Google.

Given the volume of reviews we regularly receive, we’ve found that we need both the nuanced understanding that humans offer and the scale that machines provide to help us moderate contributed content. They have different strengths so we continue to invest tremendously in both.

Machines are our first line of defense because they’re good at identifying patterns. These patterns often immediately help our machines determine if the content is legitimate, and the vast majority of fake and fraudulent content is removed before anyone actually sees it.

Our machines look at reviews from multiple angles, such as:

• The content of the review: Does it contain offensive or off-topic content?
• The account that left the review: Does the Google account have any history of suspicious behavior?
• The place itself: Has there been uncharacteristic activity — such as an abundance of reviews over a short period of time? Has it recently gotten attention in the news or on social media that would motivate people to leave fraudulent reviews?

Training a machine on the difference between acceptable and policy-violating content is a delicate balance. For example, sometimes the word “gay” is used as a derogatory term, and that’s not something we tolerate in Google reviews. But if we teach our machine learning models that it’s only used in hate speech, we might erroneously remove reviews that promote a gay business owner or an LGBTQ+ safe space. Our human operators regularly run quality tests and complete additional training to remove bias from the machine learning models. By thoroughly training our models on all the ways certain words or phrases are used, we improve our ability to catch policy-violating content and reduce the chance of inadvertently blocking legitimate reviews from going live.

If our systems detect no policy violations, then the review can be posted within a matter of seconds. But our job doesn’t stop once a review goes live. Our systems continue to analyze the contributed content and watch for questionable patterns. These patterns can be anything from a group of people leaving reviews on the same cluster of Business Profiles to a business or place receiving an unusually high number of 1 or 5-star reviews over a short period of time. 

Keeping reviews authentic and reliable 

Like any platform that welcomes contributions from users, we also have to stay vigilant in our efforts to prevent fraud and abuse from appearing on Maps. Part of that is making it easy for people using Google Maps to flag any policy-violating reviews. If you think you see a policy-violating review on Google, we encourage you to report it to our team. Businesses can report reviews on their profiles here, and consumers can report them here. 

Google Maps users and businesses can easily report reviews that they feel violate one of our policies.

Our team of human operators works around the clock to review flagged content.  When we find reviews that violate our policies, we remove them from Google, and, in some cases, suspend the user account or even pursue litigation.  

In addition to reviewing flagged content, our team proactively works to identify potential abuse risks, which reduces the likelihood of successful abuse attacks. For instance, when there’s an upcoming event with a significant following — such as an election — we implement elevated protections to the places associated with the event and other nearby businesses that people might look up on Maps. We continue to monitor these places and businesses until the risk of abuse has subsided to support our mission of only publishing authentic and reliable reviews. Our investment in analyzing and understanding how contributed content can be abused has been critical in keeping us one step ahead of bad actors.

With more than 1 billion people turning to Google Maps every month to navigate and explore, we want to make sure the information they see — especially reviews — is reliable for everyone. Our work is never done; we’re constantly improving our system and working hard to keep abuse, including fake reviews, off of the map.