lua脚本精度

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了lua脚本精度，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含2500字，纯文字阅读大概需要4分钟。

内容图文

每日一坑

实习的第一段代码由lua脚本开始，不意外的被坑，搜了好多资料页没找到解决方法，那我就自己来填一下这个坑

 

问题描述：

127.0.0.1:6379> keys *
(empty list or set)
127.0.0.1:6379> hset fruits apple 1.5
(integer) 1
127.0.0.1:6379> hset fruits orange 2
(integer) 1
127.0.0.1:6379> hset fruits pear 7
(integer) 1
127.0.0.1:6379> hvals fruits
1) "1.5"
2) "2"
3) "7"

在redis里定义了三个hash域的值，代码如上. 

 

然后通过java执行了lua脚本返回结果

// 执行 lua 脚本
DefaultRedisScript<Object> redisScript = new DefaultRedisScript<>();
// 指定 lua 脚本
redisScript.setScriptSource(new ResourceScriptSource(new ClassPathResource("SDK_lua/test/mytest.lua")));
// 指定返回类型
redisScript.setResultType(Object.class);
List<String> keys = new ArrayList<>();
// 参数一：redisScript，参数二：key列表，参数三：arg（可多个）
Object result = wmsGoodsInfoStringRedisTemplate.execute(redisScript, keys, "");
System.out.println(result);

 

mytest.lua的内容

return redis.call('hvals','fruits')

 

返回结果也是合理的

 

 

但是！！当我在lua脚本里计算返回的时候却发现了问题

 

修改mytest.lua如下

local quality = 0

local arrayValues = redis.call('hvals','fruits')

for index, value in ipairs(arrayValues) do
    quality = quality + value
end
return quality

 

上面redis.call('hvals','fruits')返回了[1.5,2,7]

现在居然给我返回了10

 

 

 

然后开始查资料模式操作

像这样，

local quality = 0
local arrayValues = redis.call('hvals','fruits')

for index, value in ipairs(arrayValues) do
    local tempVal = tonumber(value)
    local nTemp = tempVal * 100
    local nVal = tonumber(string.format("%.2f", nTemp / 100))
    quality = quality + nVal
end
return quality

 

这样，

local quality = 0.0

local arrayValues = redis.call('hvals','fruits')

for index, value in ipairs(arrayValues) do
    quality = quality + value*1
end
return quality

 

以下省略千行代码

 

最终老大看不过去来操作，解决了问题

 

local quality = 0

local arrayValues = redis.call('hvals','fruits')
for index, value in ipairs(arrayValues) do
    quality = quality + value
end
return quality..""

 

然后我好奇又加了几位小数

127.0.0.1:6379> hset fruits banana 3.4562784
(integer) 1
127.0.0.1:6379> hvals fruits
1) "1.5"
2) "2"
3) "7"
4) "3.4562784"

再次执行

 

 

！！！！！震惊！！！！！

 

我对比了一下

local quality = 0
local arrayValues = redis.call('hvals','fruits')
for index, value in ipairs(arrayValues) do
    quality = quality + value
end
return quality

=============分割符==========

local quality = 0
local arrayValues = redis.call('hvals','fruits')
for index, value in ipairs(arrayValues) do
    quality = quality + value
end
return quality..""

 

就这？好吧，我成长了——

 

内容总结

以上是互联网集市为您收集整理的lua脚本精度全部内容，希望文章能够帮你解决lua脚本精度所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端

---