• 제목/요약/키워드: Web Partition

검색결과 19건 처리시간 0.021초

Numerical Formula and Verification of Web Robot for Collection Speedup of Web Documents

  • 김원;김영기;진용욕
    • 인터넷정보학회논문지
    • /
    • 제5권6호
    • /
    • pp.1-10
    • /
    • 2004
  • A web robot is a software that has abilities of tracking and collecting web documents on the Internet(l), The performance scalability of recent web robots reached the limit CIS the number of web documents on the internet has increased sharply as the rapid growth of the Internet continues, Accordingly, it is strongly demanded to study on the performance scalability in searching and collecting documents on the web. 'Design of web robot based on Multi-Agent to speed up documents collection ' rather than 'Sequentially executing Web Robot based on the existing Fork-Join method' and the results of analysis on its performance scalability is presented in the thesis, For collection speedup, a Multi-Agent based web robot performs the independent process for inactive URL ('Dead-links' URL), which is caused by overloaded web documents, temporary network or web-server disturbance, after dividing them into each agent. The agents consist of four component; Loader, Extractor, Active URL Scanner and inactive URL Scanner. The thesis models a Multi-Agent based web robot based on 'Amdahl's Law' to speed up documents collection, introduces a numerical formula for collection speedup, and verifies its performance improvement by comparing data from the formula with data from experiments based on the formula. Moreover, 'Dynamic URL Partition algorithm' is introduced and realized to minimize the workload of the web server by maximizing a interval of the web server which can be a collection target.

  • PDF

워크플로우 분할에 기반한 복합 웹 서비스의 빠른 선택 (Fast Selection of Composite Web Services Based on Workflow Partition)

  • 장재호;신동훈;이경호
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제34권5호
    • /
    • pp.431-446
    • /
    • 2007
  • 복합 웹 서비스 선택은 서비스의 기능만을 명시한 추상 워크플로우에 바인딩 정보를 추가하여 주어진 QoS 요구사항을 만족하는 복합 웹 서비스를 구성하는 과정이다. 웹 서비스의 급격한 증가와 QoS가 동적으로 변하는 웹 서비스 환경을 고려할 때 주어진 QoS 요구사항을 만족하는 복합 웹 서비스의 빠른 선택이 중요하다. 본 논문은 워크플로우 분할에 기반하여 복합 웹 서비스를 빠르게 선택하는 방법을 제안한다. 제안된 방법은 추상 워크플로우를 두 개의 서브 워크플로우로 분할하여 선택 과정에서 고려되는 후보 서비스의 수를 줄인다. 분할된 워크플로우의 QoS 요구사항은 원래의 QoS 요구사항을 분해함으로서 생성한다. QoS 요구사항의 분해는 휴리스틱에 기반하기 때문에 워크플로우 분할 시 적절한 복합 웹 서비스를 선택하지 못할 가능성이 있다. 이러한 실패를 줄이기 위해 주어진 QoS 요구사항의 제약정도를 정의하고 적절한 제약정도를 가지는 요구사항에 한해 워크플로우를 분할한다. 서비스 선택은 mixed integer linear programming을 이용하여 해결한다. 실험 결과 제안된 워크플로우 분할 방법은 99% 이상의 성공률을 보였다. 특히 워크플로우 분할 시 모든 경우에 대해서 복합 웹 서비스를 보다 빠르게 선택하였으며 이때 선택된 복합 웹 서비스의 QoS는 최적 서비스와 5%미만의 차이를 보였다.

Optimized Adoption of NVM Storage by Considering Workload Characteristics

  • Kim, Jisun;Bahn, Hyokyung
    • JSTS:Journal of Semiconductor Technology and Science
    • /
    • 제17권1호
    • /
    • pp.1-6
    • /
    • 2017
  • This paper presents an optimized adoption of NVM for the storage system of heterogeneous applications. Our analysis shows that a bulk of I/O does not happen on a single storage partition, but it is varied significantly for different application categories. In particular, journaling I/O accounts for a dominant portion of total I/O in DB applications like OLTP, whereas swap I/O accounts for a large portion of I/O in graph visualization applications, and file I/O accounts for a large portion in web browsers and multimedia players. Based on these observations, we argue that maximizing the performance gain with NVM is not obtained by fixing it as a specific storage partition but varied widely for different applications. Specifically, for graph visualization, DB, and multimedia player applications, using NVM as a swap, a journal, and a file system partitions, respectively, performs well. Our optimized adoption of NVM improves the storage performance by 10-61%.

그래프 탐색 기법을 이용한 효율적인 웹 크롤링 방법들 (Effective Web Crawling Orderings from Graph Search Techniques)

  • 김진일;권유진;김진욱;김성렬;박근수
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제37권1호
    • /
    • pp.27-34
    • /
    • 2010
  • 웹 크롤러는 웹에서 링크를 따라다니며 웹 페이지들을 자동으로 다운로드하는 프로그램으로 주로 웹 환경을 연구하거나 검색 엔진을 만들기 위해 사용된다. 기존의 연구들에서는 웹 크롤러가 인기 있는 웹 페이지들을 먼저 크롤링 할 수 있도록 몇 가지 방법들이 제안되었으나 그래프 이론 분야에서 연구되어 온 몇몇 그래프 탐색 기법들은 아직 웹 크롤링 방법으로 고려되지 않았다. 이 논문에서는 잘 알려진 너비 우선 탐색, 깊이 우선 탐색 뿐 아니라 사전식 너비 우선 탐색, 사전식 깊이 우선 탐색 및 최대 크기 탐색을 웹 크롤링 방법으로 고려하여 이 중에서 선형적인 시간복잡도를 가지면서도 인기 있는 웹 페이지를 효율적으로 수집할 수 있는 웹 크롤링 방법을 찾는다. 특히 선형 구현이 단순하지 않은 최대 크기 탐색과 사전식 너비 우선 탐색에 대해서는 분할 정제 방법을 이용한 선형 시간 웹 크롤링 방법을 제시한다. 실험 결과는 최대 크기 탐색이 다른 그래프 탐색 방법에 비해 시간 복잡도 및 크롤링 된 페이지들의 질에 있어서 바람직한 성질을 가짐을 보여준다.

웹 서버 클러스터에서 차별화된 서비스 제공을 위한 서버 노드의 분할 기법 (A Partition Mechanism of Server Nodes for SLA in Web Server Cluster)

  • 장인재;최창열;박기진;김성수
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2003년도 봄 학술발표논문집 Vol.30 No.1 (C)
    • /
    • pp.554-556
    • /
    • 2003
  • 최근 웹 서비스가 다양한 컨텐츠와 전자상거래 둥 비즈니스와 관련된 서비스로 변화함에 따라 대용량 서비스뿐만 아니라 고품질 서비스(QoS)를 제공하기 위한 연구가 진행되고 있다. 웹 서버 클러스터에서도 서버 성능 향상과 함께 005를 제공하기 위한 차별화된 서비스가 필요하다. 본 논문에서는 사용자 계층별로 차별화된 서비스를 제공하기 위해서 서버 노드를 동적으로 분할하는 기법을 제안한다.

  • PDF

웹 만화의 표현 양식에 관한 연구 : 스크롤 만화를 중심으로 (Study on the form of expression for Web Comics : Focused on Scroll Comics)

  • 김병수
    • 한국콘텐츠학회:학술대회논문집
    • /
    • 한국콘텐츠학회 2007년도 추계 종합학술대회 논문집
    • /
    • pp.657-660
    • /
    • 2007
  • 2000년대에 들어서면서 우리나라 만화시장은 웹 만화의 성장세가 매우 두드러지고 있다. 이 가운데 스크롤만화는 웹 만화의 주류 표현 양식으로 자리 잡으면서 기존의 출판만화가 갖고 있던 형식을 벗어나 독자에게 새로운 시각적 체험을 선사하고 있다. 특히 세로로 긴 스크롤 방식은 출판만화의 칸 틀과는 비교할 수 없는 '장대한 세로칸'의 사용, 애니메이션적인 기법의 활용, 혁신적인 칸나누기, 말풍선과 나레이션의 칸 밖 배치 등 디지털 만화가 가진 '무한 캔버스'와 웹페이지의 '스크롤 바'를 충분히 활용하는 방식으로 디지털만화시대를 이끌었다. 그러나 '스크롤만화'는 새롭게 도래하고 있는 웹2.0시대에도 여전히 유효할지는 미지수다. 디지털과 웹의 무한한 가능성에도 불구하고 웹 만화가 '스크롤'이라는 하나의 창작 방식에만 너무 매몰되어 있는 오늘의 모습은 우려를 낳기에 충분하다. 본고에서는 스크롤만화를 중심으로 한 웹 만화의 표현양식을 분석해 보고 이를 토대로 향후 디지털만화가 진화해갈 방향을 점검해 보고자 한다.

  • PDF

LBSNS에서의 공간조인을 이용한 필터링 기법의 설계 (A Design of Filtering Technique on LBSNS using Spatial Join)

  • 이은식;조대수
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2011년도 춘계학술대회
    • /
    • pp.230-232
    • /
    • 2011
  • 최근 GPS를 내장한 디지털장치(스마트폰, 태블릿PC 등)가 등장함에 따라 수많은 LBSNS(Location-Based Social Networking Services) 애플리케이션들이 등장하고 있으며 기존의 많은 SNS 애플리케이션들 또한 위치기반 서비스를 추가하여 서비스 하고 있다. 트위터의 경우 관심지역에 대한 뉴스를 일반적인 구독의 형태가 아닌 연산자를 통한 검색의 형태로써 제공하고 있다. 본 논문에서는 트위터에서 사용자가 관심지역에 대한 뉴스를 간단히 구독을 할 수 있게 설계된 시스템을 설명한다. 이 시스템은 대량의 질의가 발생할 것을 고려하여 인덱스를 사용하지 않는 공간조인(Spatial Join)기법 중 하나인 PBSM(Partition Based Spatial-Merge Join)을 통해 일괄처리 한다. 공간조인을 통해 만들어진 최종 결과들은 실체화 된 뷰(Materialized View)를 통해 저장되어 지고 사용자들에게 제공된다.

  • PDF

iATA 기반의 가상 스토리지 파티션 할당 기법에 관한 연구 (A study on Partition Allocation Techniques of iATA-based Virtual Storage)

  • 박성진;천주영;임효택
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2009년도 춘계학술대회
    • /
    • pp.68-71
    • /
    • 2009
  • iATA(Internet Advanced Technology Attachment)는 TCP/IP 네트워크를 통해 원격의 대용량의 가상 저장 공간을 자신의 로컬 디스크 처럼 활용이 가능하게 하는 기술로 이는 모바일 기기(PDA, 휴대폰 등)와 같은 저장 공간의 부족문제를 가지고 있는 장치에 적용하여 저장 공간의 부족 문제를 근본적으로 해결할 수 있는 솔루션이라 할 수 있다. iATA는 SCSI 하드디스크가 장착된 시스템에서만 서버를 구축해야만 하는 iSCSI와는 달리 일반 가정이나 사무실에서 주로 사용하는 ATA 하드 디스크에도 서버 구축이 가능한 확장성을 가지고 있으며 이는 iATA의 최대 장점 중 하나라 할 수 있다. 또한, Web 사이트를 통해 많은 사람들이 iATA 서비스를 이용하여 자신의 모바일 기기에서의 저장공간 문제를 극복할 수 있으며, 최근 사회 문제로 크게 대두되고 있는 개인 정보 유출의 폐해를 막기 위해 개인 인증시 OpenSSL과 MD5를 이용한 보안/암호화 기법을 사용하여 개인 정보 유출에 의한 불이익 및 개인 정보 악용으로 인한 범죄를 막을 수 있다. 하지만, 기존의 iATA상에서는 디스크 관리가 서버에서만 가능하다는 문제점이 있다. 즉, 사용자만의 개인공간을 가질 수가 없다. 이처럼 개인 사진이나, 다이어리같은 정보들을 관리 할 수 없는 문제점을 해결하기 위해 클라이언트에서 자신만의 디스크 공간을 가질 수 있게 파티션을 할당해주고, 그 공간을 클라이언트만의 공간으로 만들어 주는 기술을 개발하는데 그 목적이 있다.

  • PDF

순차적 전달방식(STM)을 이용한 분산정보검색시스템의 설계 및 알고리즘 구현 (Design and Algorithm Implementation of a Distributed Information Retrieval System using Sequential Transferring Method(STM))

  • 윤희병;김용한;김화수
    • 정보처리학회논문지B
    • /
    • 제11B권5호
    • /
    • pp.603-610
    • /
    • 2004
  • 분산검색시스템은 중재자 또는 메타검색엔진에 의한 중앙통제로 인하여 중앙 시스템에 트래픽이 집중된다. 또한 중앙통제를 위한 복잡한 알고리즘의 설계와 별도의 하드웨어 설치 등의 비용 증가 문제가 발생한다. 따라서 이러한 문제를 해결하기 위해 여러 검색시스템이 서로 독립적인 검색기능을 가지면서도 중앙의 통제를 받지 않으면서 상호 협조할 수 있는 방식이 필요하다. 본 논문에서는 분산검색시스템과 관련된 여러 연구를 살펴보고 다중의 정보검색시스템이 중앙의 통제를 받지 않는 순차적 전달방식(STM)을 이용한 분산정보검색시스템의 Framework를 설계하며 이와 관련된 알고리즘을 구현한다 이를 위해 먼저 웹을 논리적으로 분할하여 관리하는 웹 분할 정책을 제시하며, 검색시스템의 수에 따른 순차적인 질의 처리방식을 각각 예제를 통해 설명한다. Framework에 적합한 정보검색시스템의 3 Layer구조와 각 Layer별 기능과 모듈을 또한 제시한다. 마지막으로, STM 알고리즘의 효율적 구현을 위하여 모듈 구조를 분석하고 이의 pseudocode 표현을 제시하며 서버간 순차적 질의 전달 시연과정을 통해 제안한 SIM 알고리즘이 효율적으로 동작함을 보여준다.

단어 빈도와 α-cut에 의한 연관 웹문서 분류를 이용한 추천 시스템 (Recommendation System using Associative Web Document Classification by Word Frequency and α-Cut)

  • 정경용;하원식
    • 한국콘텐츠학회논문지
    • /
    • 제8권1호
    • /
    • pp.282-289
    • /
    • 2008
  • 협력적 필터링을 개선하기 위하여 많은 기술들이 개발되고 실용화되었으나 아이템의 연관 관계를 정확하게 반영하지는 못한다. 본 논문에서는 협력적 필터링의 문제점을 보완하기 위하여 단어 빈도와 ${\alpha}$-cut에 의한 연관 웹문서 분류를 이용한 추천 시스템을 제안한다. 제안된 방법은 형태소 분석을 통한 웹문서에서 단어를 추출하고 빈도 가중치를 계산한다. 추출된 단어를 Apriori 알고리즘을 이용해서 연관 규칙을 생성하고 신뢰도에 단어 빈도 가중치를 적용한다. 그리고 연관 규칙 하이퍼그래프 분할을 이용하여 연관 단어간의 유사도를 계산한다. 마지막으로 유사 클래스를 기반으로 연관 웹문서를 ${\alpha}$-cut을 이용하여 분류하고 개선된 코사인 유사도를 이용하여 유사도를 계산한다. 실험 결과 제안한 방법이 기존의 방법들보다 우수함을 확인하였다.