• 제목/요약/키워드: 행위 표현 언어

검색결과 101건 처리시간 0.034초

한국어 악성 프롬프트 주입 공격을 통한 거대 언어 모델의 유해 표현 유도 (Inducing Harmful Speech in Large Language Models through Korean Malicious Prompt Injection Attacks)

  • 서지민;김진우
    • 정보보호학회논문지
    • /
    • 제34권3호
    • /
    • pp.451-461
    • /
    • 2024
  • 최근 거대 언어 모델을 기반으로 한 다양한 인공지능 챗봇이 출시되고 있다. 챗봇은 대화형 프롬프트를 통해 사용자에게 빠르고 간편하게 정보를 제공할 수 있다는 이점을 가지고 있어서 질의응답, 글쓰기, 프로그래밍 등 다양한 분야에서 활용되고 있다. 그러나 최근에는 챗봇의 취약점을 악용하는 '프롬프트 주입 공격'이 제안되었는데, 이는 챗봇이 기입력된 지시사항을 위반하도록 하는 공격이다. 이와 같은 공격은 거대 언어 모델 내부의 기밀 정보를 유출하거나 또 다른 악성 행위를 유발할 수 있어서 치명적이다. 반면 이들에 대한 취약점 여부가 한국어 프롬프트를 대상으로는 충분히 검증되지 않았다. 따라서 본 논문에서는 널리 사용되는 챗봇인 ChatGPT를 대상으로 악성 한국어 프롬프트를 생성하여 공격을 수행해보고, 이들에 대한 실행 가능성을 분석하고자 한다. 이를 위해 기존에 제안된 프롬프트 주입 공격 기법을 분석하여 악의적인 한국어 프롬프트를 자동으로 생성하는 시스템을 제안하고자 한다. 특히 유해 표현을 유도하는 악성 프롬프트를 중점적으로 생성하였고 이들이 실제 유효함을 보이도록 한다.

MSC로 기술된 통신소프트웨어 명세의 검증을 위한 전체 상태 전이 그래프 생성 (Construction of Global State Transition Graph for Verifying Telecommunications Software Specifications written in Message Chart)

  • 김병만;김현수;신윤식
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제26권12호
    • /
    • pp.1428-1444
    • /
    • 1999
  • MSC는 ITU에 의해 표준화된, 병행 시스템의 명세를 기술하기 위한 그래픽 형태와 텍스트 형태를 제공하는 언어로서 실시간 시스템 특히 통신 교환 시스템의 특성을 기술하기 위해 자주 사용된다. 통신 시스템이 제대로 동작함을 보이기 위해서는 정형적인 방법을 사용하여 시스템 행위를 검증할 필요가 있다. 통신 소프트웨어를 검증하는 방법 중 하나의 방법으로 유한 상태를 기반으로 하는 방법이 있다. 유한 상태를 기반으로 하는 방법에서는 먼저 시스템 명세에 해당하는 전체 상태 전이 그래프를 생성한 후 이를 바탕으로 model-checking 등의 방법을 사용하여 시스템의 특성을 검증한다. 본 논문에서는 MSC로 기술된 통신 소프트웨어 명세로부터 전체 상태 전이 그래프를 생성하는 방법에 초점을 맞추었다. 시스템 명세에 해당하는 상태 전이 그래프를 생성하기 위해 보다 직관적으로 MSC의 의미론을 표현할 수 있고, 또한 쉽게 전체 상태 전이 그래프를 생성할 수 있는 행위 종속 그래프를 제안하였다. MSC 명세는 일단 행위 종속 그래프로 변환이 되고 이 행위 종속 그래프를 이용하여 전체 상태 전이 그래프가 생성된다.Abstract Message Sequence Chart (MSC) standardized by International Telecommunication Union is a graphical and textual language for describing the specification of concurrent systems. It is frequently used both formally and informally for specifying the behavior of real-time systems, in particular telecommunication switching systems. To ensure that a communication system operates properly, the verification process showing the correctness of system's behavior formally is necessary. One of the verification methods is a finite-state method. In the finite-state method, the global state transition graph (GSTG) is constructed and then safety and liveness properties of systems are verified through a well-known method such as model checking. In this paper, we forcus on the construction of GSTG from the specifications of telecommunication software written in MSC. We suggest Action Dependency Graph (ADG) which can present the semantics of MSC intuitively and also provide a GSTG construction method from ADG. MSC specifications are translated to ADGs and, in turns, the GSTGs are constructed by using these ADGs.

의사소통식 영어 발음지도

  • 김정렬
    • 대한음성학회:학술대회논문집
    • /
    • 대한음성학회 1997년도 7월 학술대회지
    • /
    • pp.45-60
    • /
    • 1997
  • 의사소통식 영어교수법은 Widdowson (1978)이래, 과거 20여 년간의 여러 외국어 교수 방법들을 (침묵식 교수법, Gattegno; 자연적 교수법, Terrell & Krashen; 전신반웅 교수법, Asher; 집단언어 학습법, Curran; 암시적 교수법, Lozanov) 거치면 서, 이들 중에서 의사소통을 중심으로 한 여러 가지 방법을 총괄하여, 명실공히 외국어 교육 방법의 중심으로 그 자리를 갈수록 확고히 잡아가고 있다. 의사소통식 교수법은 우선 언어란 의사소통을 위한 수단이며, 의사소통은 사회 속에서 일어나는 사회 언어적 행위로 본다. 따라서, 외국어 교육의 목적을 무엇보다도 의사소통 기능의 숙달에 두는 것이다. 일반적인 의사소통 상황을 보면 발화내용의 문법적 정확성은 그 상황에 대한 내용의 적절성 여부에 비하면, 부수적인 것이다. 예를 들면, 사과를 하는 의사소통기능을 공부하면서, 사과하는 표현으로 Sorry라는 말을 썼다고 하자. 이때, 영어는 주어 생략 언어가 아니기 때문에, Sorry 대신에 문법적으로 완전한 문장인 I'm sorry 로 표현해야 한다는 문법적인 문제보다는 사과하는 표현이 그 상황에서 적절하게 쓰인 것인지를 묻는 것에 초점을 맞춘 것이 의사소통식 교수 방법이다. 현재, 초등학교 16 종 영어 교과서도 의사소통 기농들을 적절한 상황에 맞춰서 의사소통식 교수 방법의 정신을 비교적 잘 반영하고 있다. 그러나, 발음에서만큼은 아직도 의사소통식 교수방법을 무시하고, 정확한 발음의 명시적인 설명이나, 예시에 그치는 경향이 뚜렷하다. 이러한 경향은 교육부에서 고시한 제6차 교육과정과 이에 따른 해설서에서 되풀이되고 있다. 발음지도에 많은 관심을 기울여 많은 양의 지면을 할애하고 있음에도 불구하고, 전후에 흐르는 의사 소통식 영어교육의 맥을 완전히 끊고, 단지 정확한 발음의 해부학적 예시와 기술에 그 치고 있다 (임영재 외 1995). 이러한 발음기관의 단면도를 이용한 해부학적 발음의 예시는 특정 자음의 정확한 혀의 위치를 알려 줄 수는 있지만, 발음훈련을 대신하지는 못한다. 예를 들어, 자전거를 타고자 하는 사람이 자전거의 페달을 밟았을 때, 그 동력전달 과정을 자세히 소개한 책자를 읽었다고 해서, 자전거를 탈 수 있는 것은 아니다. 역시, 자전거를 타고자 하면, 실제로 타고 넘어지면서 배우게 되는 것이다. 그리고, 발음훈련의 경우 교재의 내용이나 의사소통 기능은 의사소통식으로 가르치면서도 발음만큼은 아직도 원어민의 입모양을 활용한 듣고 따라하기 식의 전통적인 방법의 발음훈련을 계속하고 있다. 이러한 전통적 발음훈련 방법은 구체적으로 다음 장에서 제시되겠지만, 초등학교에서 듣고 따라하기나 듣고 골라내기와 같은 방법으로 발음훈련을 하면, 많은 학생들이 쉽게 지루해 하고, 아마 영어시간 중에서 가장 싫어하는 시간이 발음연습 시간이 될 가능성이 많이 있다. 현재 의사소통식 교수 방법을 모태로 한 교과서에서도 의사소통식 발음지도법을 쓰지 않았다는 것은 새로이 시작하는 초등학교 영어교육에서 아쉬운 점이라 아니할 수 없다. 초등학교 학생들에 대한 발음 지도의 핵심은 그들의 지적, 정서적, 신체적 특징을 잘 고려해야 한다. 초등학교 학생은 지적, 정서적, 신체적으로 성장기에 있어서, 호기심이 많고, 모방성이 강하며, 감수성이 예민하여 마음에 상처를 받기도 쉽다. 그리고, 무엇보다도, 끊임없이 신체적으로 움직이고 싶어한다. 이러한 학생들의 특정 을 반영하여 발음을 지도하는 길은 역시 초등학교 교과서의 다른 영역들처럼, 학생들은 움직이는 활동을 하면서 재미를 느끼고, 교사는 이들 활동을 통해서 교수목표를 성취하는 쪽으로 맞추어야 한다. 본 논문에서는 먼저 발음지도가 필요한 이유와 요인을 살펴본다. 그리고, 전통적인 발음지도 방법을 일별해 보고, 의사소통식 발음지도법을 제시하는 순으로 논의를 전개하기로 한다.

  • PDF

멀티 에이전트 시스템에서 협상하는 논리 에이전트에 관한 연구 (A Study on Logic Agents that Negotiate in Multi-Agent Systems)

  • 이명진;한현관
    • 한국컴퓨터산업학회논문지
    • /
    • 제5권9호
    • /
    • pp.1089-1094
    • /
    • 2004
  • 멀티 에이전트 시스템(Multi-Agent Systems: MAS)에서 에이전트들이 서로 협상하기 위해서 에이전트들은 공통의 에이전트 통신 언어(Agent Communication Language: ACL)를 사용하여야 하며, 일치에 도달할 수 있도록 설계된 협상 프로토콜을 따라야 한다. 그러므로 에이전트는 위의 요구사항들을 수용할 수 있는 적당한 구조를 가져야 한다. 이 논문에서는 예제에 사용되는 간단한 ACL을 정의하고, 이것과 다른 ACL들(FIPA(Foundation for Intelligent Physical Agents) ACL, KQML(Knowledge Query Manipulation Language))을 간단히 비교한다. 특히, 에이전트를 ALE음 ,소망, 의도, 그리고 협상 라이브러리로 구성된 논리 프로그램으로 표현한다. 마지막으로, 협상 라이브러리에 포함된 계획자(planner)가 행위들의 계획을 어떻게 제공하는가 그리고 ALE음을 어떻게 갱신하는가를 보인다.

  • PDF

형식명세로 변환된 객체모델의 검증방법과 시뮬레이션 (Verification method and Simulation of Object model Converted to Formal Specification)

  • 임근
    • 한국컴퓨터정보학회논문지
    • /
    • 제12권6호
    • /
    • pp.123-130
    • /
    • 2007
  • 본 논문은 객체모델에서 표현되는 객체와 관련성을 형식명세의 상태와 오퍼레이션 도메인으로의 변환 규칙을 제시하였다. 즉 정보모델의 요소인 객체와 관련성을 형식명세 표현에서 상태영역으로 변환하였다. 동적모델의 상태, 이벤트, 행위를 오퍼레이션 영역으로 변환하였다. 비형식적인 객체모델을 형식 명세 언어로 변환하므로써 객체모델을 정형화된 방법으로 검증할 수 있다. 검증과정을 통해 소프트웨어 개말 초기단계에서 모델링 과정의 편리함과 신뢰성을 제공할 수 있다 또한 검증된 모델과 사용자 요구사항 사이의 일관성을 위해 시뮬레이션 도구를 구현하였다. 시뮬레이션 도구는 적합한 모델의 선택과 검증이 가능하도록 하므로 소프트웨어 개발비용과 노력, 개발 시간을 최소화할 수 있다.

  • PDF

인간중심적인 구문체계에 상응하는 소프트웨어 모델상의 객체표현의 설계 (Design for Humane Sentential On Software Modeling Object Presentation)

  • 전영준;신승호
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2005년도 가을 학술발표논문집 Vol.32 No.2 (2)
    • /
    • pp.400-402
    • /
    • 2005
  • 소프트웨어 개발의 본질은 매우 복잡하다. 이는 서로 맞물려 돌아가도록 여러 컨셉들을 명세화하고 설계하여 검증해야 하기 때문이다. 또한 문제영역에 들어맞도록 개발해내도 여전히 실세계 엔티티(entities)간의 관계를 정의해 줘야 하고, 예외적인 상황을 식별해야 하며, 각각의 상태 변화를 예측해야 하기 때문에 여전히 복잡한 행위일 수밖에 없다. 이와 같은 복잡도를 낮추기 위해 비주얼한 기호형태에 기반을 둔 개발에 도움을 받을 수 있다. 그러나 개발의 중심에 인간이 있다는 데에는 변함이 없어야 한다. 또한 기계가 아닌 좀 더 인간적이고, 자동화가 아닌 실제적인 창작의 주체로서 개발자들을 '인간'이라는 사회적 대상으로서 초점을 둘 필요가 있다. 본 논문의 목적은 개발자간의 의사소통과 자유로운 창작활동을 위한 설계법을 인문사회영역에서 접근함으로서 개발자간에 '이해'의 폭을 증대시키기 위한 객체의 관계와 설계에 대한 재 정립이다. 이를위해 소프트웨어 개발상의 요소의 선택과 관계의 표현에 대해 기존의 기호체계에만 의존하지 않고 인간의 언어구조에 기반을 둔 구문체계에 상응하는 방식을 사용하는 것으로 구문기반의 관계의 성립과 그것을 지배하는 원리를 수립한다.

  • PDF

행위공동체 내의 언어·사회·문화: 영어간판 속 텍스트의 언어적 특성과 사회·문화적 양상에 관한 인식의 고찰 (The Language·Society·Culture in a Community of Practice: The Linguistic Features and Students' Perspectives on English Signboards)

  • 이영화
    • 한국콘텐츠학회논문지
    • /
    • 제18권6호
    • /
    • pp.364-373
    • /
    • 2018
  • 본 연구의 목적은 국내 도시 지역을 중심으로 영어간판의 언어적 특성과 영어간판에 관한 대학생들의 인식을 통해 사회 문화적 양상을 살펴보는 것이다. 연구 방법으로 해당지역의 영어간판 촬영과 학생들로부터의 설문이 포함되었다. 분석 결과, 영어간판의 55.4%는 '영어'로만 표기되어 있고, 주로 주류 음료 및 의류업에 몰려 있었다. 텍스트 구조는 영어로만 표기된 것은 '2-3단어'(43%), 영어+국어 혼용의 경우 '4-5' 단어(25%)로 전체의 약 68%였다. 영어간판의 약 70%는 주류 음료(27%), 음식점(23%), 의류업(21%)에서 사용되고 있었으며, 이러한 간판들이 주변 환경과 조화를 이룬다는 의견은 42%에 불과하였다. 좋은 영어간판의 요건으로는 '시각성(27%)', '업종 표현(23%)', '세련 고급스러움(19%)', '디자인과 창의성(15%)'을 들 수 있으며 이를 충족하는 간판은 신촌 지역에 가장 많았다. 한편, 부정적인 영어간판은 의류업에 가장 많았다. 현재의 영어간판은 전반적으로 매우 미흡함을 보이고 있어 아름답고 조화로운 영어간판 문화 조성을 위한 정책적, 제도적 노력이 요구된다.

Unified Modeling Language를 활용한 다관점 업무 시스템 모형화 (Multiple Perspective Business System Modeling Using Unified Modeling Language)

  • 김종우;김진삼;조진희;전진옥
    • 한국정보처리학회논문지
    • /
    • 제6권9호
    • /
    • pp.2373-2383
    • /
    • 1999
  • 최근에 객체지향 프로그래밍 언어의 광범위한 활용과 더불어 객체지향 개발방법론, 객체지향 모형화 언어가 활발히 보급되어 있다. 객체지향 개발방법론을 채택하여 정보 시스템을 개발할 경우, 사전 작업인 업무 분석 및 재설계 작업을 객체지향 모형화 언어를 활용하여 진행하면 업무 분석 및 재설계 산출물을 정보시스템 개발자들이 쉽게 이해하고 정보시스템 개발에 참조할 수 있다. 본 논문에서는 객체지향 모형화 언어의 표준으로 대두되고 있는 UML(Unified Modeling Language)에 기반한 업무 프로세스 모형화 기법(UML-B, UML extension for Business Modeling)을 제시한다. UML-B에서는 UML의 표기법을 사용하여 업무 시스템의 조직 구조, 행위자, 사용사례, 업무 프로세스, 개체 관점을 표현하도록 한다. 또한 UML이 제공하는 확장 메카니즘을 사용하여 업무에 대한 모형화 작업의 용이성을 증진시키고 경영혁신(BPR, Business Process Reengineering) 기법을 객체지향 모형화와 함께 사용할 수 있도록 지원한다.

  • PDF

LTS 명세 검증을 위한 모델 검증기 개발 (A Study on Implementation of Model Checking Program for Verifying LTS Specification)

  • 박용범;김태균;김성운
    • 한국정보처리학회논문지
    • /
    • 제5권4호
    • /
    • pp.995-1004
    • /
    • 1998
  • 본 논문은 LTS 프로세스 명세 검증을 위해 프로토콜의 행위와 상태에 대한 deadlock, livelock, reachability, liveness 검증을 위한 모델 검증기 구현에 대해 기술하였다. Modal mu-calculus를 사용하여 구현된 모델 검증기는 modal logic으로 표현된 프로토콜 특성이 LTS 명세하에서 만족하는지를 자동적으로 검증해 주는 model checking 도구이고 LTS 명세의 Safety와 Liveness 검증에 매우 강력한 성능을 보이는 것을 구현을 통해 실험적으로 증명하였다. 제시된 도구는 Windows NT 환경하에서 IBM PC로 $C^{++}$언어를 사용하여 구현되었다.

  • PDF

점진적 데이터 전송을 지원하는 분산 가상현실 서비스 시스템 (Distributed Virtual Reality Service System Supporting Progressive Data Transmission)

  • 황상훈;황대훈
    • 한국멀티미디어학회:학술대회논문집
    • /
    • 한국멀티미디어학회 2000년도 추계학술발표논문집
    • /
    • pp.19-24
    • /
    • 2000
  • 웹에서 3차원 인터페이스를 제공하는 가상현실 공간을 구축하기 위해 VRML이 등장하였다. 또한 웹과 가상현실을 접목하고자 하는 과정에서, 3차원 가상환경을 사용자들이 네트워크를 통해 서로 공유하며 실시간으로 서로의 움직임을 인지하고 의사 전달을 하며 공동 작업을 수행하기 위한 분산 가상현실이라는 분야가 등장하였으나, 아직까지 실세계와 유사한 분산 가상현실을 지원하지 못하고 있는 실정이다. 이에 본 논문에서는 YRML 언어로 표현된 3차원 가상공간을 분할하여 관리하기 위한 가상세계 서버와 참여자들간의 상호작용 이벤트를 중계하고 공간 데이터를 클라이언트에 전송하기 위한 중계 서버, 기리고 이들 서버와 통신하는 가상세계 클이언트를 설계하였다. 특히 본 시스템에서는 가상공간을 분할증간 단위로 세분하여 이 단위로 서버가 클라이언트에게 전송하는 방법을 제시하였으며, 아바타의 행위 정보를 타 참여자에게 전송 분할공간 개념을 이용하여 같은 분할공간에 속한 참여자에게만 전송함으로서 불필요한 통신 부하를 줄이고 사용자 네비게이션 환경을 개선하였다.

  • PDF