• 제목/요약/키워드: Internet Hate Speech

검색결과 9건 처리시간 0.024초

인터넷 혐오표현 대응방안에 관한 탐색적 연구 : 노출경험 사례 및 전문가 심층인터뷰 분석을 중심으로 (Exploratory Study on Countering Internet Hate Speech : Focusing on Case Study of Exposure to Internet Hate Speech and Experts' in-depth Interview)

  • 김경희;조연하;배진아
    • 한국콘텐츠학회논문지
    • /
    • 제20권2호
    • /
    • pp.499-510
    • /
    • 2020
  • 본 연구의 목적은 최근 심각한 사회문제로 대두되고 있는 인터넷 혐오표현의 원인과 대응방안을 모색하는 것이다. 혐오표현을 경험한 대학생들의 에세이 분석을 통해 인터넷 혐오표현에 대한 노출 실태를 분석했으며, 전문가 심층인터뷰를 통해 인터넷 혐오표현 확산의 원인을 진단하고 대응방안을 제시했다. 대학생들은 인터넷에서 여성, 노인, 성소수자, 지역 대상의 혐오표현을 경험했으며, 혐오표현을 확산시키는 주요 매체는 뉴스 댓글과 SNS, 온라인 게임이었다. 인터넷 혐오표현의 원인은 개인적 차원에서 인간 존엄성에 대한 인식 부족, 미디어 리터러시 능력의 부재 등으로, 사회적 차원에서 차별과 혐오에 대한 교육의 미흡, 혐오표현을 재생산하는 미디어 등으로 분석됐다. 이와 함께 법·제도적, 사회적, 교육적 차원에서 인터넷 혐오표현 문제를 개선하는 방안이 제시되었다.

Hate Speech Detection Using Modified Principal Component Analysis and Enhanced Convolution Neural Network on Twitter Dataset

  • Majed, Alowaidi
    • International Journal of Computer Science & Network Security
    • /
    • 제23권1호
    • /
    • pp.112-119
    • /
    • 2023
  • Traditionally used for networking computers and communications, the Internet has been evolving from the beginning. Internet is the backbone for many things on the web including social media. The concept of social networking which started in the early 1990s has also been growing with the internet. Social Networking Sites (SNSs) sprung and stayed back to an important element of internet usage mainly due to the services or provisions they allow on the web. Twitter and Facebook have become the primary means by which most individuals keep in touch with others and carry on substantive conversations. These sites allow the posting of photos, videos and support audio and video storage on the sites which can be shared amongst users. Although an attractive option, these provisions have also culminated in issues for these sites like posting offensive material. Though not always, users of SNSs have their share in promoting hate by their words or speeches which is difficult to be curtailed after being uploaded in the media. Hence, this article outlines a process for extracting user reviews from the Twitter corpus in order to identify instances of hate speech. Through the use of MPCA (Modified Principal Component Analysis) and ECNN, we are able to identify instances of hate speech in the text (Enhanced Convolutional Neural Network). With the use of NLP, a fully autonomous system for assessing syntax and meaning can be established (NLP). There is a strong emphasis on pre-processing, feature extraction, and classification. Cleansing the text by removing extra spaces, punctuation, and stop words is what normalization is all about. In the process of extracting features, these features that have already been processed are used. During the feature extraction process, the MPCA algorithm is used. It takes a set of related features and pulls out the ones that tell us the most about the dataset we give itThe proposed categorization method is then put forth as a means of detecting instances of hate speech or abusive language. It is argued that ECNN is superior to other methods for identifying hateful content online. It can take in massive amounts of data and quickly return accurate results, especially for larger datasets. As a result, the proposed MPCA+ECNN algorithm improves not only the F-measure values, but also the accuracy, precision, and recall.

딥러닝 기술을 활용한 차별 및 혐오 표현 탐지 : 어텐션 기반 다중 채널 CNN 모델링 (Bias & Hate Speech Detection Using Deep Learning: Multi-channel CNN Modeling with Attention)

  • 이원석;이현상
    • 한국정보통신학회논문지
    • /
    • 제24권12호
    • /
    • pp.1595-1603
    • /
    • 2020
  • 포털 사이트의 인터넷 뉴스 댓글, SNS, 커뮤니티 사이트 등의 온라인상에서 명예 훼손 사건이 최근 점점 증가하고 있다. 온라인상의 차별 및 혐오 표현은 명예 훼손 문제뿐만 아니라 사생활 침해, 인신 공격 등 다양한 형태로 온라인 서비스 이용자들을 위협하고 있다. 지난 몇 년간 산업계와 학계는 이러한 문제를 해결하고자 다양한 방법으로 연구해왔다. 하지만 한국어 대상으로 수행된 딥러닝 기반 혐오 표현 탐지 연구는 아직까지 부족한 상황이다. 본 연구의 목적은 혐오 표현뿐만 아니라 다양한 차별적 표현에 대한 탐지를 위해 데이터셋을 구축하고 이를 분류하기 위한 딥러닝 모델링을 실험하는 것이다. 데이터셋 구축은 10명의 인원이 교차적으로 검토를 하면서 7개 항목에 대한 라벨링 기준을 확립했다. 본 연구는 약 137,111개에 해당하는 한국어 인터넷 뉴스 댓글 데이터셋에 대해 7개의 항목을 각각 이진 분류하고, 이를 딥러닝 기법을 통해 분석한다. 본 연구에서 제안하는 기법은 어텐션 기반 다중 채널 CNN 모델링 기법이다. 실험 결과 7개 항목에 대해 가중 평균 f1 점수를 평가했을 때, 70.32%의 성능을 달성했다.

국내 통신심의 제도 개선에 관한 연구 (A Study of Internet Content Regulation in South Korea)

  • 윤성옥
    • 정보화정책
    • /
    • 제30권2호
    • /
    • pp.3-21
    • /
    • 2023
  • 최근 인터넷 환경은 인터넷 내용규제에 대한 새로운 접근을 요구한다. 헌법재판소가 인터넷을 가장 참여적인 시장으로 표현촉진적인 매체라고 정의한 지 20여년이 흘렀다. 그 동안 인터넷에서는 디지털성범죄, 마약, 자살정보, 악성댓글, 혐오표현, 가짜뉴스 등 표현의 자유로만 설명할 수 없는 다양한 문제들이 등장했다. 통신심의 제도에 대한 논의가 중요한 이유이다. 본고는 국내 통신심의 제도에 대한 입법적 분석, 사법적 분석, 행정적 분석을 시도한다. 통신심의 법률 현황과 특징은 무엇인지, 통신심의에 대한 사법부의 판단은 어떠한지, 실제 통신심의의 운영과정과 특징은 무엇인지 분석하였다. 입법적, 사법적, 행정적 접근을 통해 국내 통신심의 제도의 문제점을 총체적으로 다루었다. 이를 통해 국내 통신심의 제도 개선을 위한 정책적 제언을 도출하였다.

인터넷 전화에서 손실 패킷 복원을 위한 동적인 부가 정보 전송 기법 (Dynamic Redundant Audio Transmission for Packet Loss Recovery in VoIP Systems)

  • 권철홍;김무중
    • 한국음향학회지
    • /
    • 제21권4호
    • /
    • pp.349-360
    • /
    • 2002
  • 인터넷 폰 시스템은 네트워크 트래픽 문제로 인한 지연, 지터 그리고 패킷 손실을 경험하고 이로 인한 통화품질의 저하가 문제가 되어 통화품질 (QoS) 향상 기술이 필요하게 되었다. 본 논문에서는 인터넷상에서 통화품질을 저해하는 요소들을 분석하고 실시간 전송 프로토콜/실시간 전송제어 프로토콜 (RTP/RTCP)을 이용하여 네트워크 상태를 진단하여 송, 수신 단말기간 네트워크 트래픽에 알맞은 방식으로 인코딩된 패킷을 송,수신하는 동적인 손실 복구 알고리즘을 제안한다. 실험결과 제안한 부가정보를 이용한 동적인 손실 복구 알고리즘은 연속 패킷손실인 경우 63%의 손실패킷 복원률을 보여주며, 비연속 패킷손실인 경우 42%의 패킷손실 복원률을 보여준다.

Human Rights in The Context of Digitalization. International-Legal Analysis

  • Panova, Liydmyla;Gramatskyy, Ernest;Kryvosheyina, Inha;Makoda, Volodymyr
    • International Journal of Computer Science & Network Security
    • /
    • 제22권5호
    • /
    • pp.320-326
    • /
    • 2022
  • The use of the Internet has become commonplace for billions of people on the planet. The rapid development of technology, in particular, mobile gadgets, has provided access to communication anywhere, anytime. At the same time, there are growing concerns about the behavior of people on the Internet, in particular, towards each other and social groups in general. This raises the issue of human rights in today's information society. In this study, we focused on human rights such as the right to privacy, confidentiality, freedom of expression, the right to be forgotten, etc. We point to some differences in this regard, in particular between the EU, etc. In addition, we describe the latest legal regulation in this aspect in European countries. Such methods as systemic, factual, formal and legal, to show the factors of formation and development of human rights in the context of digitalization were used. The authors indicate which of them deserve the most attention due to their prevalence and relevance. Thus, we concluded that the technological development of social communications has laid the groundwork for a legal settlement of privacy and opinion issues on the Internet. Simultaneously, jurisdictions address issues on every aspect of human rights on the Internet, based on previous norms, case law, and principles of law. It is concluded that human rights legislation on the Internet will continue to be actively developed to ensure a balance of private and public interests, safe online access and unimpeded access to it.

Direction of Global Citizenship Education in the Age of Infodemic : A Case Study of the COVID-19 Pandemic in Korea

  • Jisu Park
    • International journal of advanced smart convergence
    • /
    • 제12권1호
    • /
    • pp.82-91
    • /
    • 2023
  • In 2020 when the COVID-19 pandemic began in full-scale, the WHO Director-General warned of the dangers of an infodemic. The infodemic is a phenomenon in which false information spreads rapidly like an epidemic and causes chaos, and it was noted that the COVID-19 pandemic is not just limited to health problems, but also linked to a variety of issues such as human rights, economic inequality, various discrimination, hate speech, fake news, global governance etc. In the field of education, it is necessary to think about how to connect this global situation with school classes. Accordingly, this study suggested the direction for global citizenship education by analyzing how the infodemic spreads on Korean social media with the case of the recent global COVID-19 pandemic. According to the research results, the rate of negative emotions was higher than positive ones in the emotions that generate infodemic, while anxiety and anger were focused among negative emotions. In addition, the infodemic tended to spread widely with the feelings of anger rather than anxiety, and the feelings of anger led to advocating aggressive policies against certain country and regions. Therefore, global citizenship education is required to focus on a sense of duty and responsibility as a citizen, not on the level of national identity based on an exclusive sense of belonging. Furthermore, global citizenship education needs to lead to presenting a blueprint for education in a way that can enhance the awareness of the global community for joint response to global challenges and realize common prosperity based on sustainability and justice.

악성댓글 판별의 성능 향상을 위한 품사 자질에 대한 분석 연구 (An analysis study on the quality of article to improve the performance of hate comments discrimination)

  • 김형주;문종민;김판구
    • 스마트미디어저널
    • /
    • 제10권4호
    • /
    • pp.71-79
    • /
    • 2021
  • 인터넷의 사용이 광범위 해져감에 따라 변화되는 사회적 측면 중 하나는 온라인 공간에서의 의사소통이다. 과거에는 물리적으로 같은 공간에 있을 때를 제외하고는 일대일 대화만 원격으로 가능했지만, 요즘은 게시판이나 커뮤니티, 소셜네트워크서비스(SNS) 등을 통해 다수의 사람들과 원격으로 소통할 수 있는 기술이 발달했다. 이러한 정보통신망의 발달로 생활이 편리해지고, 동시에 급격한 정보교류에 따른 피해도 끊임없이 증가하고 있다. 최근에는 연예인뿐 아니라 인플루언서 등 인터넷에서 인지도가 높은 특정인에게 성적인 메시지를 보내거나 인신공격을 가하는 등의 사이버 범죄가 발생하고 있으며, 이들 사이버 범죄에 노출된 이들 중 일부는 극단적인 선택을 하기도 하였다. 본 논문에서는 악성 댓글로 인한 피해를 줄이기 위해 음성 부분별 기능추출을 통한 차별적 악성 댓글의 성능향상 방안을 연구하였다.

모델, 데이터, 대화 관점에서의 BlendorBot 2.0 오류 분석 연구 (Empirical study on BlenderBot 2.0's errors analysis in terms of model, data and dialogue)

  • 이정섭;손수현;심미단;김유진;박찬준;소아람;박정배;임희석
    • 한국융합학회논문지
    • /
    • 제12권12호
    • /
    • pp.93-106
    • /
    • 2021
  • 블렌더봇 2.0 대화모델은 인터넷 검색 모듈과 멀티 세션의 도입을 통해 실시간 정보를 반영하고, 사용자에 대한 정보를 장기적으로 기억할 수 있도록 함으로써 오픈 도메인 챗봇을 대표하는 대화모델로 평가받고 있다. 그럼에도 불구하고 해당 모델은 아직 개선점이 많이 존재한다. 이에 본 논문은 블렌더봇 2.0의 여러 가지 한계점 및 오류들을 모델, 데이터, 대화의 세 가지 관점으로 분석하였다. 모델 관점에서 검색엔진의 구조적 문제점, 서비스 시 모델 응답 지연시간에 대한 오류를 주로 분석하였다. 데이터 관점에서 크라우드 소싱 과정에서 워커에게 제공된 가이드라인이 명확하지 않았으며, 수집된 데이터의 증오 언설을 정제하고 인터넷 기반의 정보가 정확한지 검증하는 과정이 부족한 오류를 지적하였다. 마지막으로, 대화 관점에서 모델과 대화하는 과정에서 발견한 아홉 가지 유형의 문제점을 면밀히 분석하였고 이에 대한 원인을 분석하였다. 더 나아가 각 관점에 대하여 실질적인 개선방안을 제안하였으며 오픈 도메인 챗봇이 나아가야 할 방향성에 대한 분석을 진행하였다.