There have been various attempts to identify and address misinformation and propaganda on contemporary social media platforms, some of the techniques that have been used include:

- Identifying clusters in the social graph, representing cliques, social groups, and botnets, and then classifying the nature of the information and interaction that characterizes each cluster. 
- Tracking patterns of account creation and identifying periods of time with unusual activity.
- Identifying information that is reposted without attribution within platforms, noting that posters are connected, and then classifying how and if they were modified.

Once information and users are classified by these, or similar techniques, it may be prudent to identify which classes of users and information are behaving in a:
- Positive way, ie, increasing the veracity of information, adding additional context, spreading information after verifying and discussing it, and debunking or addressing content that does not meet these criteria. 
- A neutral way, ie, spreading information and content without verification or based on social pressures, simplifying complex situations and removing context, modifying content in a benign or humorous way without altering it's meaning, or amplifying drama or conflict without debunking or verifying any position.
- A negative way, ie, spreading information and content that benefits a specific agenda, regardless of it's veracity, removing context or fraudulently modifying information or content to support a specific position, amplifying drama and conflict in a way that specifically targets groups that oppose the viewpoints you hold.

It should be noted that by first dividing users and content into clusters and then breaking the classifications of those clusters down in this way, we significantly reduce the amount of information we need to retrieve from outside of the social graphs we have access to. 

For quantifying things like "the veracity of information" and "fraudulently modified information" we need to retrieve information from external sources to help classify content. This is a difficult problem, and will likely need trusted human researchers to manually look into the sources of claims, their historical reliability, and any underlying interests and incentives those sources have, in order to verify that information. A good summary of a repeatable process for evaluating unfamiliar sources could be to:

 - Identify however many sources make a similar claim to the one you are verifying, and try to identify any primary sources among them.
 - Look into the history of these primary sources, have they made any claims that you can independently verify? If not, is that due to the difficulty of verifying the claim, or is it due to the unverifiability of the claim? 
 - Look into the connections and affiliations of these sources, do they have an explicit incentive to make their claims? If they do, are there any counterclaims elsewhere that can also be verified? 

However, since in most real world examples of propaganda and misinformation, false and unverified information is only used for shock value at the "entry" level of a disinformation pipeline, and the ultimate goal is usually to create a more permanent seperation between the ingroup and the outgroup, the quality of those quantifications can help our classifications, but may not be critical for them. Instead, we can classify most misinformation and disinformation solely based on one or two verified points of fact and then classify clusters of users that actively and reliably behave negatively towards verified information as sources of misinformation (modified or false information,) or propaganda (not necessarily modified information, but a filtering of reality to support a specific position or viewpoint over the whole truth). 

There are likely gaps in this scheme that could lead to it being gamed or manipulated to censor or harm benign or dissident minority activities, so it is important to seek the aid of misinformation or harm reduction experts before you use the outputs of this scheme to enact any action or create any policy.
มีความพยายามหลายครั้งในการระบุและจัดการกับข้อมูลที่ผิดและการโฆษณาชวนเชื่อบนแพลตฟอร์มโซเชียลมีเดียร่วมสมัย เทคนิคบางอย่างที่ใช้ ได้แก่: - การระบุกลุ่มในกราฟโซเชียล เป็นตัวแทนของกลุ่ม กลุ่มสังคม และบอตเน็ต จากนั้นจึงจำแนกลักษณะ ของข้อมูลและการโต้ตอบที่เป็นลักษณะเฉพาะของแต่ละคลัสเตอร์ - ติดตามรูปแบบการสร้างบัญชีและระบุช่วงเวลาที่มีกิจกรรมที่ผิดปกติ - การระบุข้อมูลที่โพสต์ซ้ำโดยไม่มีการระบุแหล่งที่มาภายในแพลตฟอร์ม โดยสังเกตว่าผู้โพสต์มีความเชื่อมโยงกัน จากนั้นจึงจำแนกว่ามีการเปลี่ยนแปลงอย่างไรและอย่างไร เมื่อข้อมูลและผู้ใช้ถูกจำแนกตามสิ่งเหล่านี้หรือเทคนิคที่คล้ายคลึงกัน อาจต้องใช้ความระมัดระวังในการระบุว่าผู้ใช้และข้อมูลประเภทใดมีพฤติกรรมในลักษณะ: - แนวทางเชิงบวก เช่น การเพิ่มความจริงของข้อมูล การเพิ่มบริบทเพิ่มเติม การแพร่กระจายข้อมูลหลังจากการตรวจสอบ และอภิปรายและหักล้างหรือกล่าวถึงเนื้อหาที่ไม่ตรงตามเกณฑ์เหล่านี้ - วิธีที่เป็นกลาง เช่น การเผยแพร่ข้อมูลและเนื้อหาโดยไม่มีการตรวจสอบหรือขึ้นอยู่กับแรงกดดันทางสังคม ลดความซับซ้อนของสถานการณ์ที่ซับซ้อนและลบบริบท การแก้ไขเนื้อหาในลักษณะที่ไม่เป็นอันตรายหรือตลกขบขันโดยไม่เปลี่ยนแปลงความหมาย หรือขยายความดราม่าหรือความขัดแย้งโดยไม่หักล้างหรือตรวจสอบจุดยืนใดๆ . - แนวทางเชิงลบ ได้แก่ การเผยแพร่ข้อมูลและเนื้อหาที่เป็นประโยชน์ต่อวาระใดวาระหนึ่ง โดยไม่คำนึงถึงความจริง การลบบริบทหรือแก้ไขข้อมูลหรือเนื้อหาโดยฉ้อฉลเพื่อสนับสนุนจุดยืนเฉพาะ ขยายดราม่าและความขัดแย้งในลักษณะที่กำหนดเป้าหมายเฉพาะกลุ่มที่ต่อต้าน มุมมองที่คุณถือ ควรสังเกตว่าโดยการแบ่งผู้ใช้และเนื้อหาออกเป็นกลุ่มแรก จากนั้นแบ่งประเภทของกลุ่มเหล่านั้นด้วยวิธีนี้ เราจะลดปริมาณข้อมูลที่เราต้องดึงมาจากภายนอกกราฟโซเชียลที่เราเข้าถึงได้อย่างมาก สำหรับการระบุปริมาณสิ่งต่างๆ เช่น "ความจริงของข้อมูล" และ "ข้อมูลที่แก้ไขโดยฉ้อโกง" เราจำเป็นต้องดึงข้อมูลจากแหล่งข้อมูลภายนอกเพื่อช่วยจัดประเภทเนื้อหา นี่เป็นปัญหาที่ยาก และอาจจำเป็นต้องให้นักวิจัยที่เป็นมนุษย์ที่เชื่อถือได้ตรวจสอบแหล่งที่มาของการกล่าวอ้าง ความน่าเชื่อถือในอดีต และความสนใจและสิ่งจูงใจที่ซ่อนอยู่ที่แหล่งข้อมูลเหล่านั้นมีด้วยตนเอง เพื่อตรวจสอบข้อมูลดังกล่าว บทสรุปที่ดีของกระบวนการที่ทำซ้ำได้สำหรับการประเมินแหล่งที่มาที่ไม่คุ้นเคยอาจเป็นดังนี้: - ระบุว่ามีแหล่งที่มาหลายแห่งที่มีการกล่าวอ้างที่คล้ายคลึงกันกับแหล่งที่มาที่คุณกำลังตรวจสอบ และพยายามระบุแหล่งที่มาหลักใดๆ ในนั้น - ดูประวัติของแหล่งข้อมูลหลักเหล่านี้ พวกเขาได้อ้างสิทธิ์ใดๆ ที่คุณสามารถตรวจสอบได้โดยอิสระหรือไม่ ถ้าไม่เป็นเพราะความยากลำบากในการตรวจสอบการเรียกร้องหรือเป็นเพราะไม่สามารถยืนยันการเรียกร้องได้หรือไม่? - ดูความเชื่อมโยงและความเกี่ยวข้องของแหล่งข้อมูลเหล่านี้ มีแรงจูงใจที่ชัดเจนในการกล่าวอ้างหรือไม่ หากเป็นเช่นนั้น มีการฟ้องแย้งในที่อื่นที่สามารถตรวจสอบได้หรือไม่? อย่างไรก็ตาม เนื่องจากในตัวอย่างการโฆษณาชวนเชื่อและข้อมูลที่ไม่ถูกต้องในโลกแห่งความเป็นจริง ข้อมูลที่เป็นเท็จและไม่ได้รับการยืนยันจึงถูกนำมาใช้เพื่อค่าความตกใจในระดับ "ทางเข้า" ของช่องทางข้อมูลที่บิดเบือนเท่านั้น และโดยปกติแล้วเป้าหมายสูงสุดคือการสร้างการแบ่งแยกอย่างถาวรมากขึ้นระหว่างกลุ่มภายในและ กลุ่มนอก คุณภาพของปริมาณเหล่านั้นสามารถช่วยจำแนกประเภทของเรา แต่อาจไม่มีความสำคัญสำหรับพวกเขา แต่เราสามารถจัดประเภทข้อมูลที่ผิดและข้อมูลที่บิดเบือนส่วนใหญ่โดยยึดตามประเด็นข้อเท็จจริงที่ตรวจสอบแล้วหนึ่งหรือสองประเด็นเท่านั้น จากนั้นจึงจัดกลุ่มผู้ใช้ที่ประพฤติตัวในทางลบต่อข้อมูลที่ตรวจสอบแล้วอย่างแข็งขันและเชื่อถือได้เป็นแหล่งที่มาของข้อมูลที่ผิด (ข้อมูลที่แก้ไขหรือเป็นเท็จ) หรือโฆษณาชวนเชื่อ (ไม่จำเป็น ข้อมูลที่แก้ไขแต่เป็นการกรองความเป็นจริงเพื่อสนับสนุนจุดยืนหรือมุมมองเฉพาะเหนือความจริงทั้งหมด) อาจมีช่องว่างในโครงการนี้ที่อาจนำไปสู่การเล่นเกมหรือจัดการเพื่อเซ็นเซอร์หรือเป็นอันตรายต่อกิจกรรมของชนกลุ่มน้อยที่ไม่เป็นอันตรายหรือไม่เห็นด้วย ดังนั้นจึงเป็นเรื่องสำคัญที่จะต้องขอความช่วยเหลือจากข้อมูลที่ผิดหรือผู้เชี่ยวชาญด้านการลดอันตรายก่อนที่คุณจะใช้ผลลัพธ์ของโครงการนี้เพื่อบังคับใช้ การดำเนินการใด ๆ หรือสร้างนโยบายใด ๆ
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence