科技评估方法与实务
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人

第一章 科技评估概述

第一节 科技评估基本概念

一、科技评估定义

联合国评价小组(UNEG)在其最新的《评价规范和标准》中将“评估”定义为“对一项活动、项目、方案、战略、政策、主题、专题、行业部门、业务领域、机构绩效等开展的尽可能系统、公正的评价”, “评估使用适当准则,如相关性、效果、效率、影响以及可持续性等,通过对结果链、程序、各影响因素以及因果关系的检验,分析预期的和非预期的已经取得的结果的实现程度”联合国评价小组(UNEG).评价规范和标准,2016.。这一定义被联合国系统机构、世界银行、亚洲开发银行、欧盟等国际组织以及美国、英国、加拿大、日本等发达国家政府部门和相关机构广泛采用,应用于教育、卫生、科技、发展援助等各个领域。

科技评估是指遵循一定的原则和标准,运用规范的程序和方法,对科技活动及其有关行为和要素所开展的专业化评价与咨询活动。广义的科技评估包括评估机构或专家组开展的与科技活动有关的各类评价、评议和评审活动。狭义的科技评估特指评估机构开展的与科技活动有关的各类评价活动。在科技管理和评估实践中,评估和评价这两个术语都经常使用。我们认为这两个术语在内涵上没有本质的区别,只是在语言表达习惯或适用对象上有所区别,如机构评估、人才评价等。

二、科技评估分类

(一)根据评估对象分类

根据评估对象,科技评估主要包括以下几类。

(1)科技战略和规划评估,一般包括科技战略和规划的目标定位、任务部署、落实与保障、目标完成情况、效果与影响等内容。

(2)科技政策评估,一般包括科技政策的必要性、合理性、合规性、可行性、执行力、效率、效果、风险与影响等内容。

(3)科技计划评估,是指对科技计划整体的综合评估活动,一般包括科技计划的目标定位、任务部署、资源配置与使用、组织管理、实施进展、成果产出、知识产权、人才队伍、目标完成情况、效果与影响等内容。

(4)科技项目评估,一般包括科技项目的可行性、任务部署、资源配置与使用、组织管理、实施进展、成果产出、知识产权、人才队伍、目标完成情况、效果与影响等内容。

(5)科技人才评价,是指对科技人才和(或)人才团队开展的评估,一般包括人才的创新能力、成果、贡献、诚信等内容。

(6)科技机构评估,一般包括组织机构的发展目标定位、人才队伍、条件、创新能力、服务水平、运行机制、组织管理、绩效等内容。

(7)科技成果评估,一般包括科技成果的创新性、先进性、成熟度、可行性、应用前景、潜在风险、社会效益、经济效益等内容。

(8)区域科技创新评估,一般包括国家、省、市等区域内科技创新的环境、投入、能力、产出、效果与影响等内容。

(二)根据评估时间节点分类

根据评估时间节点,科技评估可分为事前评估、事中评估和事后评估。

事前评估是在科技活动实施前进行的评估,一般包括科技活动的可行性、目标、资源配置、预期效果等内容。目的是为科技规划、政策的制定,科技计划、项目和机构的设立,资源配置等决策提供参考和依据。

事中评估是在科技活动实施过程中进行的评估,一般包括实施进展、组织管理、预期目标实现程度、职责履行程度等内容。目的是为科技规划、政策调整完善、优化科技管理、任务和经费动态调整等提供依据。

事后评估是在科技活动完成时或完成一段时间后开展的评估,一般包括科技活动的预期目标完成情况、产出、效果、影响等内容。目的是为科技活动滚动实施、促进成果转化和应用、完善科技管理和追踪问效提供依据。

(三)根据评估内容分类

根据评估内容不同,科技评估有不同的划分方式,常见的评估类型包括绩效评估和影响评估。绩效评估是对科技活动预期目标实现程度或相关主体职责履行程度及其效率和效果进行的评估。影响评估是对一项科技活动(规划、政策、计划、项目等)对国家经济和社会发展所产生的长期的作用和贡献进行的评估。

三、科技评估基本原则

目前国际上公认的评估基本原则是独立性、可信性和有用性。这三个基本原则对科技评估也是适用的。

独立性(independence)是指科技评估应不受外界干扰,独立开展评估活动,自主形成评估结果。评估的独立性包括两个关键方面,即制度/组织上的独立性和行为的独立性。制度/组织上的独立性要求评价职能独立于管理决策,以保证评价免受干预;评估报告可以直接提交给适当的、与被评对象有关的管理决策层;评估人员不应直接参与政策制定、项目管理以及对于被评对象的其他管理工作。行为的独立性要求评估人员有充分的自主权开展评估活动,可以获得评估所需信息,能够自主地表达他们的评估意见,能够对评估内容、范围、方法和结论独立地做出决定而不受委托者和管理者干预。

可信性(credibility)是指科技评估主体应诚实守信,评估证据应真实充分,评估结果应准确可靠。独立性是保证评估可信的必要条件之一,但并不能确保评估的可信性。影响评估可信性的关键因素还包括:① 评估人员/评估机构的能力和信誉,可信性要求评估人员遵守评价的道德规范,并体现专业能力;② 评估活动的过程和方法,要求评估过程公开透明,评估方法严谨规范,评估组织实施模式和评估方法的选择合理;③ 评估报告的质量,包括评估报告要说明使用的评估方法以及方法的局限性,评估报告必须不带偏见地阐述事实、结论与建议,反映不同意见者的观点,不同渠道的信息要相互验证。

有用性(utility)是指评估能够对管理和决策及能力建设发挥作用。具体包括:① 评估的建议得到采纳,直接用于管理和决策的改进;② 评估活动促进利益相关方的对话和沟通,有助于形成共识;③ 参与评估活动的组织或个人在评估过程中获取知识,提高能力;④ 可能有些评估结论或建议已通过其他方式提出过,但独立、可信的评估可以使决策更加令人信服。

联合国开发计划署独立评估办公室用“评估三角形”(图1-1)形象地表达了三个基本原则之间的关系。独立性位于三角形的底部,表明独立性是评估的基础,评估的独立性可增强其可信性,独立性和可信性为评估的有用性提供了重要的支持。同时也强调独立性不是目的而是评估的保障条件,是为了产生可信、有用的评估结果陈兆莹.关于科技评价和科技评价改革的讨论[J].科学通报,2018(63): 611-617.

图1-1 评估的三大基本原则

四、科技评估准则

评估准则(criteria)是用来评估被评对象的若干标准UNDP. Handbook On Planning, Monitoring And Evaluating For Development Results, 2009.。目前,国际上普遍采用相关性、效率、效果、影响、可持续性等准则开展公共R&D(研究与开发)评估。我们在开展科技评估时也采用这些准则,同时根据创新驱动发展的要求,还采用创新性评估准则。在具体的科技评估活动中,评估人员并非必须采用所有的评估准则,可以根据需要采用适合的评估准则。

相关性(relevance)是指科技活动目标和国家发展政策的相符程度。它用来评估科技活动的设立是否合理。对于相关性的评估,要考虑“前相关”和“后相关”,即科技活动设计之时的目标相关性和进行评估时的目标相关性。实践中,重点评估“后相关性”,即开展评估之时,科技活动与有关科技、经济和社会发展政策的相符性,与经济和社会发展重大需求或关键问题的针对性等。

效率(efficiency)是指资源投入与产出之间的关系。它用来评估科技活动实施过程是否有效,即是否以最小的投入获得预期的产出水平,或以既定的投入水平获得最大的产出。

效果(effectiveness)是指科技活动目标的实现程度,包括短期的、中期的和长期的目标。效果评估通常还包括科技活动目标群体的受益程度。

影响(independence)是评估科技活动及其成果对国家经济和社会发展所产生的直接或间接的、长期的作用和贡献,以及项目对提高科研能力等方面的作用。

可持续性(sustainability)是指科技活动完成后持续运行或发挥作用的可能性。它针对保障科技活动持续运行或发挥作用的各方面因素进行评估,这些因素包括科技活动管理或运行机构的持续性、科技产出的维护和利用、制度保障等。

创新性(innovativeness)评估科技活动关键成果的新颖性和自主创新程度,或者对国家、区域和各类创新主体科技创新的促进作用。评估创新性因不同科技活动而异,包括但不局限在以下几方面:① 理论或技术上的突破或独创;② 扩散应用到新的领域;③ 通过对现有技术和成果进行集成,产生新的效用;④ 对国家、区域和各类创新主体科技创新能力的提高;等等国家科技评估中心.促进创新的国家科技计划项目绩效评价方法研究[R].北京:国家科技评估中心,2013.

五、科技评估方法

评估是个交叉学科领域,通常涉及经济学、社会学、公共管理、政治学、自然科学、系统工程、统计学及其他学科领域,因此,科技评估经常采用这些学科领域的一些方法,如社会调查、投入产出分析、统计分析、技术预测、文献计量等(详见第二章)。但是,评估基于自身的理念和准则也有独特的方法,如再评估(meta-evaluation)、综合评估(evaluation synthesis)、成效分析(outcome mapping)、参与式评估(participatory evaluation)等。

六、科技评估指标

科技评估指标是定量或定性的因素或变量,是用来衡量科技成果、反映科技活动变化,或用来评估活动主体的一种简明和可靠的手段。科技评估指标的作用在于:一是评价是否达到了预期的结果。如立项目标完成情况,目标是否变更,阶段目标完成情况,目标完成的及时性。二是分析发展趋势。关键评估指标的设计要符合“SMART” 原则,即具体的(specific)、可衡量的(measurable)、可获得的(attainable)、相关的(relevant)、在限时条件下可实现的(time-bound)(表1-1)UNDP. Handbook on Planning, Monitoring and Evaluating for Development Results, 2009.

表1-1 指标设计的SMART原则

资料来源:UNDP. Handbook on Planning, Monitoring and Evaluating for Development Results, 2009.