A Study on Measurement of National R&D Program Efficiency: How to integrate evaluators' recognition into measuring the efficiency?

국가연구개발사업의 평가위원 인식과 효율성 분석간 연계 방안에 관한 연구 - 원자력연구개발사업을 중심으로 -

  • Received : 2010.01.20
  • Accepted : 2010.03.25
  • Published : 2010.03.31

Abstract

Based on the figure of Program's result, the measurement of National R&D Program efficiency cannot have reflected its characteristic. This study explores the way to integrate evaluators' recognition into program efficiency as a means of embodying its characteristic. As a way of integrating their recognition with evaluating efficiency, two methods are applied. One is AHP as for evaluators recognition and the other is DEA as for measuring efficiency. This study tries to show the effect of evaluators on program efficiency and compares the result with one which did not include their recognition. The study also implies that the recognition of evaluators should be considered when the program efficiency is measured. Furthermore, this study suggests that the participation and role of evaluators should be expanded into evaluation of program efficiency.

지금껏 국가연구개발사업의 효율성 평가는 성과물로 도출된 결과치에만 의존함에 따라 사업 고유의 특성을 충분히 반영하지 못하였다. 따라서 본 연구는 사업 고유의 특성이 효율성에도 반영될 수 있는 방안으로 평가위원과 효율성을 연계하는 모형을 탐색하였다. 이를 위해 본 연구는 평가위원의 인식을 검토할 수 있는 AHP 방법과 효율성을 분석할 수 있는 DEA방법을 접목하여 분석하였다. 또한 사례분석을 통해 가중치 적용 이전의 연구결과와 비교 분석함으로써, 평가위원의 가중치가 효율성의 분석에 미치는 영향을 제시하였다. 본 연구는 사업의 효율성을 판단할 때 평가위원의 인식을 고려해야 한다는 점을 제시한 것으로 현행과 같이 평가위원의 참여와 역할이 사업의 평가에 국한되지 아니하고 사업의 효율성 평가에도 확대되어야 함을 보여주고자 하였다.

Keywords

References

  1. 국가과학기술위원회 (2009), 2009년 국가연구개발 성과평가 실시 계획.
  2. 국가과학기술위원회 (2008), 이명박정부의 과학기술기본계획 2009년도 시행계획.
  3. 국가과학기술위원회 (2009), 2009년도 국가연구개발사업 조사분석 보고서.
  4. 교육과학기술부 (2008), 2009년도 공공기관 등에 대한 연구개발투자 권고.
  5. 한국과학재단 (2009), 2008년도 원자력연구기획평가사업에 관한 연구.
  6. 한국연구재단 (2009), 교육과학기술부 주요 연구개발사업 성과분석보고서.
  7. 고길곤 (2007), "다차원 공공투자의사결정 문제에 있어서 정책분석가들의 의사결정 행태 분석", 한국정책학회보, 16(1): 23-49.
  8. 곽승준 외 (2002), "다속성 효용분석을 이용한 원자력연구개발과제 사후평가지표 개발", 기술혁신학회, 5(1): 90-109.
  9. 김관중 (2006), AHP를 활용한 PI사업 평가그룹간 의사반영 방안, 한국도로학회, 8(4): 145-157.
  10. 김광구, 강제상, 김주경 (2009), 교육, 과학정책: 우리나라 과학기술 인력양성 정책의 정합성 및 우선순위 평가에 관한 연구, 한국정책학회 하계학술대회, pp. 29-56.
  11. 김동우 (1985), 적정연구 평가자 및 연구수행자 선정을 위한 연구인력실태 조사보고서, 한국표준연구원.
  12. 김상현 (1991), 객관적 R&D 결과, 평가기법 개발연구 보고서, 한국자원연구소.
  13. 김성수 (2005), "특정연구개발사업 성과지표 개발과정 분석", 한국정책분석평가학회 학술대회.
  14. 김순영 (2009), FA/AHP 기법을 활용한 국방연구개발사업 메타평가 지표 개발에 관한 연구, 한국기술혁신학회, 12(1): 113-136.
  15. 김진수 (1994), "목적기초연구 평가자의 평가결과 분석", 산업공학회 춘계공동학술대회 발표논문, pp. 753-762.
  16. 김태희 외 (2009), "자료포락분석법을 활용한 국가연구개발사업의 효율성 분석", 기술혁신학회, 12(1): 70-87.
  17. 남인석 외 (1994), "계층적 분석방법을 활용한 정부 R&D 사업 선정모형에 관한 연구", 대한산업공학회 추계학술대회 발표논문, pp. 259-278.
  18. 박찬국 외 (2007), "퍼지 AHP 적용에 있어서 평가자 신뢰도와 위험인식 성향의 반영", 산업시스템공학회, 30(1): 89-95.
  19. 백주현 외 (2005), "AHP 기법을 활용한 추가 역사 설치 타당성 평가모형 개발", 한국토목학회, 25(3): 385-393.
  20. 성창경 외 (2009), 2008년도 원자력연구개발사업의 연구기획 및 평가에 관한 연구 보고서, 한국과학재단.
  21. 양희승 (2004), "우리나라 국가연구개발사업 연구평가지표의 개선에 관한 연구", 한국경영과학회 춘계학술대회 논문집, pp. 547-550.
  22. 유금록 (2009), 확률변경분석을 이용한 공공부문의 효율성 평가, 한국행정학보, 43(4): 261-283.
  23. 유금록 (2007), "성과평가를 위한 자료포락분석에 있어서 쌍대이론에 의한 포락모형의 공식화와 적용", 정책분석평가학회보, 17(4): 57-86.
  24. 유금록 (2003), "보건소의 생산성 측정", 한국행정학보, 37(4): 261-280.
  25. 유일 외 (2005), "AHP를 이용한 제3자 물류업체 선정 평가기준에 관한 연구", 한국정보전략학회, 8(1): 1-19.
  26. 윤영준 (2008), "국가R&D 과제 평가위원 선정에 필요한 평가위원 정보의 공유를 위한 기본설계에 관한 연구", 한국인터넷정보학회 추계학술대회, 9(2): 591-594.
  27. 이병식 (2005), "누리사업단 선정의 영향요인 및 평가자 배경변인에 따른 평가결과의 차이 분석", 교육행정학연구, 23(1): 397-417.
  28. 이병욱, 임채영 (1998), "AHP를 이용한 원자력 연구개발 대안 평가", 공업경영학회, 21(48).
  29. 이찬구 (2009), "연구기관 평가의 실증 분석", 기술혁신학회, 12(1): 36-69.
  30. 이창효 (2000), 집단의사결정론, 서울: 세종출판사.
  31. 임윤철 (1993), 국가연구개발사업의 효율적인 연구기획평가시스템 구축을 위한 체계 설립 및 운영방향 연구보고서, 과학기술정책관리연구소.
  32. 임호순 외 (1999), "연구개발사업의 평가 및 선정을 위한 DEA/AHP 통합모형에 관한 연구", 한국경영과학회지, 24(4).
  33. 조근태 (2002), "기술대안의 전략적 평가를 위한 AHP 적용에 있어서 평가자 신뢰성을 고려한 가중치 통합", 경영과학, 19(2): 139-154.
  34. 하준경 (2005), "연구개발의 경제성장 효과 분석", 경제분석, 11(2): 83-105.
  35. 황용수 (2001), 정부연구개발프로그램 평가체계의 비교 분석을 통한 사업유형별 평가방안 모색을 위한 연구보고서, 과학기술정책연구원.
  36. 황혜성 외 (2008), 광역자치단체의 평생학습정책 효율성 분석, 한국행정학보, 42(4): 211-235.
  37. Almarin Phillips (1987), "Measuring the Cost-Efficiency of Basic Research Investment: Input-Output Approaches", Journal of Policy Analysis and Management, Vol. 6(3): 362-364.
  38. Banker, R. D., A. Charnes & W. W. Cooper (1984), "Some Models for Estimating Technical and Scale Inefficiencies in Data Envelopment Analysis", Management Science, 30(9): 1078-1092.
  39. Buyukyazici & Sucu (2003), "The Analytic Hierarchy and Analytic Network Processes", Hacettepe Journal of Mathematics and Statistics, Vol. 32: 65-73.
  40. Charnes, A., W.W. Cooper and E. Rhodes (1978), "Measuring the Efficiency of Decision Making Units", European Journal of Operational Research 2.
  41. Charnes, A., W.W. Cooper and E. Rhodes (1981), "Evaluating Program and Managerial Efficiency - an Application of Data Envelopment Analysis to Program Fellow Through", Management Science, 27(6): 668-697.
  42. Debreu, G. (1951), "The Coefficient of Resource Utilization", Econometrica, 19: 273-292.
  43. Farrell, M. (1957), "The Measurement of Productive Efficiency", Journal of the Royal Statistical Society, 120A.
  44. Jennifer C. Greene, Lehn Benjamin and Leslie Goodyear (2001), "The Merit of Mixing Methods in Evaluation", Evaluation, 7(1): 25-44.
  45. Hummel, J.M., Omta, S.W.F., Rossum, W. van., Verkerke, G.J. & Rakhorst, G. (1998), "The analytic hierarchy process : an effective tool for a strategic decision of a multidisciplinary research center", Technology and Policy, Vol. 1(1), 42-63.
  46. Oral, Kettani and Lang (1991), "A Methodology for Collective Evaluation and Selection of Industrial R&D Projects", Management Science, Vol. 37(7).
  47. Satty, T. L. (1980), "The Analytic Hierachy Process", New York: McGraw-Hill.
  48. Satty, T. L. (1990), "An Exposition of the AHP in reply to the paper remark on the analytic hierarchy process", Management Science, 36(3): 259-268.
  49. Yeh J. M., Kreng, B. & Lin, C. (2001), "A consensus approach for synthesizing the elements of comparison matrix in the analytic hierarchy processes", International Journal of Systems Science, Vol. 32(11).
  50. Wang, Eric C & Huang, Weichiao (2006), "Relative efficiency of R&D activities", Research Policy, 36: 260-273.