问题描述:向量
,展开形式为
,相似度时计算公式
。
浮点转定点: 假设转定点数时把[0.0, 1.0] 映射到 [0, M], 则分量最大损失为
,考虑四舍五入则为
。
误差分析:
其中
, 替换之后
两边再加上绝对值
取N = 256, M = 32767,相似度的误差在万分之五以内。
进行人脸查找时,这个误差应该可以忽略不计,向量点积由32位浮点转为32位整型,我的机器大概能快5~6倍。

-->
一、Android studio 3.5安装详解 1.安装IDE 安装前的准备:已装过要卸载,且删除C:useryourname 下.and
文章如无特别注明均为原创! 作者: 独自狂战, 转载或复制请以 超链接形式 并注明出处 新无止竞博客 - 专注网络技术资源分享的IT博客。
原文地址《 人脸特征向量用整数存储精度损失多少?》发布于2018-12-13