“变量转换”的版本间差异

来自Shiyin's note
跳到导航 跳到搜索
无编辑摘要
无编辑摘要
第10行: 第10行:
IDL> 5, 5
IDL> 5, 5


*整数范围很小(long),要转换大的数,加上/L64
*结果是long型的整数要转换大的数,加上/L64
*[[astro_lib]]中的nint程序,可以代替round,而且
*[[astro_lib]]中的nint程序,可以代替round,而且
:(1) if no absolute value exceeds 32767, then the array is returned as a type INTEGER instead of LONG
:(1) if no absolute value exceeds 32767, then the array is returned as a type INTEGER instead of LONG

2012年9月19日 (三) 01:50的版本

浮点数转成整数

  • round:四舍五入
IDL>print,round(5.1),round(5.9)
IDL> 5, 6
  • ceil:向上进
IDL>print,round(5.1),round(5.9)
IDL> 6, 6
  • floor:截取整数
IDL>print,round(5.1),round(5.9)
IDL> 5, 5
  • 结果是long型的整数,要转换更大的数,加上/L64
  • astro_lib中的nint程序,可以代替round,而且
(1) if no absolute value exceeds 32767, then the array is returned as a type INTEGER instead of LONG
(2) NINT will work on strings, e.g. print,nint(['3.4','-0.9']) will give [3,-1], whereas ROUND() gives an error message