第三节 科技评估的准备与设计
科技评估的准备与设计对确保评估顺利实施至关重要,具体包括以下几个环节:① 明确评估目的;② 了解评估背景;③ 理解被评对象;④ 分析利益相关方;⑤ 开发评估框架;⑥ 选择证据收集工具;⑦制订评估实施流程;⑧ 明确评估结果的报告形式;⑨ 形成评估实施方案。
一、明确评估目的
评估目的是指通过评估所要实现的意图。评估人员或机构在开展科技评估活动之前,要与委托者进行充分的沟通,了解评估需求和目的。明确评估目的过程中一般要回答以下几个问题:为什么要在这个时候开展这项评估,需要获得什么信息、评估结果将如何使用,谁将使用评估结果。不同的目的决定了不同的评估框架和方法。实践中通常有两大类评估活动。一类是目标导向型评估,针对科技活动设计时制定的目标及各项指标开展评估;另一类是问题导向型评估,针对决策者、管理者或各方关注的重大问题开展评估。
对科技项目、机构等的评估通常采用目标导向型评估,即通过设计关键评估指标对其预期目标开展评估。综合性科技评估通常采用问题导向型评估,如规划评估、综合计划评估、政策评估等通常基于关键问题开展评估,通过回答关键评估问题实现评估目的。评估过程中凝练关键评估问题能够使评估聚焦在有限的几个方面,收集更加有用的信息。
专栏1-1:研发费用税收加计扣除政策效果评估关键问题
为了评估研发费用税收加计扣除政策的效果,根据委托者需求,设计以下四个关键评估问题进行评估。
(1)通过税收加计扣除政策,企业享受了多少税收优惠。
(2)该政策是否促进了企业加大研发投入。
(3)中小企业享受该政策的情况如何。
(4)企业申报的研发费用有多大的比例获得加计扣除。
二、了解评估背景
评估背景会影响评估结果的准确性、公正性、可靠性。而科技活动立项时的背景会影响目标设定、实施过程和预期成果。因此了解科技活动立项和评估的经济、科技、社会、政治等背景对评估的顺利实施非常重要,可使评估人员更好地从历史和现实两个角度看待被评对象,防止造成偏颇。
三、理解被评对象
首先通过逻辑模型来理解被评对象。以“863”计划复合盾构样机的研制课题评估为例,从投入、活动、产出、成效和影响这五个方面对课题进行分析,理解逻辑模型每个组成部分的要素,明确从投入到影响之间的逻辑关系(图1-2)。
图1-2 “863”计划课题复合盾构样机的研制
其次是分析被评对象是否具有可评性。可评性分析主要从以下五个方面进行考虑:① 是否具有清晰、明确的目标,且各利益相关方对目标达成共识;② 是否具有明确、具体且与目标相关的考核指标;③ 是否有定期的监测或年度报告数据能反映工作进展;④ 相关文档保存是否相对完整;⑤ 能否以合理的时间、人力和资金成本收集评估所需证据。
四、分析利益相关方
利益相关方包括三类:一是与被评对象决策、管理和实施相关的,如政府部门、项目管理专业机构、承担单位、科研人员、评审专家等;二是受到被评对象影响的,如受益者、产品用户、竞争者、社会公众等;三是评估结果的使用者,如政府部门、问责机构等(图1-3)。对利益相关方进行分析时主要从四方面入手:利益相关方在被评对象中的作用;利益相关方在评估活动中的作用;利益相关方参与评估活动的方式;利益相关方如果缺失将会怎样(表1-2)。
图1-3 评估涉及的利益相关方
表1-2 利益相关方分析
五、开发评估框架
开发评估框架(evaluation matrix)是科技评估设计至关重要的一步。对于目标导向型评估,评估框架一般包括评估准则、关键评估指标、评估证据、证据来源和证据收集方法。对于问题导向型评估,评估框架一般包括评估维度、关键评估问题、评估证据、证据来源和证据收集方法(表1-3)。
表1-3 目标导向型科技评估框架
对于公共研发或科技活动的绩效评价,各国相关部门或机构均在通用要求下开发出体现科技特点的评价指标,见表1-4。
表1-4 科技评估指标举例
六、选择证据收集工具
根据评估需要针对指标和关键评估问题以及人力、经费、时间等评估资源,选择合适的证据收集工具。常用的证据收集工具包括:案卷研究、面访、座谈会、问卷调查、实地调研和案例研究(表1-5)。每个证据收集工具各自有优缺点,在使用时往往采用多种方法确保证据的全面客观。
表1-5 证据收集工具
七、制订评估实施流程
评估实施流程包括以下几个方面:一是确定各个评估活动的开展顺序和所需时间;二是确保合理地分配和使用时间;三是要考虑哪些环节容易受到干扰(干预),提出预防措施;四是明确每个环节的负责人。
八、明确评估结果的报告形式
评估结果的报告形式应满足委托者的需求。常见的评估结果报告形式为一个总报告或是总报告和专题报告的形式。
九、形成评估实施方案
评估设计的产出是评估实施方案,主要包括以下内容:评估目的、评估背景、评估对象描述、涉及的利益相关方、评估框架(评估指标体系或是关键评估问题)、评估方法、评估流程、预期评估结果等。
十、评估设计的质量要求
评估设计的质量要求体现在以下四个方面。
(1)评估设计能满足管理部门的需求和评估任务大纲的要求,包括评估的目的、范围、时间安排等。
(2)评估拟采用的方法恰当、可行,能够收集到所需的证据。
(3)每项评估活动有明确的责任人。
(4)评估小组计划投入的人力资源和时间能够保证评估活动的开展。
评估管理者要根据上述要求对评估实施方案进行检查。如果评估实施方案不能满足上述要求,评估管理者应主动与评估小组沟通,使其理解管理部门的需求和评估任务大纲的要求,并要求评估小组修改设计方案。