10.3969/j.issn.1000-386X.2012.06.026
位数随机的有效数字自动运算算法
针对物理实验数据的自动处理,提出一种位数随机的有效数字自动运算算法,包括有效数字运算结果的科学记数表示算法、有效位数的取舍算法、数据表示形武的转换算法以及不同位数有效数字的运算算法.对有效数字多项式的自动运算实验结果表明,该算法符合运算优先级的要求,运算结果符合有效数字的取舍原则,算法运算的结果与人工运算的结果完全相同,算法满足位数随机的物理实验数据的自动处理要求.
位教随机的有效数字、科学记数法、四舍六入五配偶、数值多项式
29
TP274+.2(自动化技术及设备)
国家大学生创新件实验计划项目0920120029321;浙江工业大学之江学院教学方法改革专项1281000910
2012-08-13(万方平台首次上网日期,不代表论文的发表时间)
共4页
97-99,104