来源:自学PHP网 时间:2019-08-07 16:47 作者:小飞侠 阅读:次
[导读] golang中snappy的使用场合实例详解...
前言 项目中遇到的压缩/解压缩需求应该是很多的,比如典型的考虑网络传输延时而对数据进行压缩传输,又或者其他各种省空间存储需求等。这次同样是遇到了类似需求,在做一个爬虫时,因为抓取项目还未确定,所以考虑将整个html页面压缩存储于数据库,于是又是各种google,最后不出意外的google到了google家的Snappy :-) google 自家的snappy 压缩优点是非常高的速度和合理的压缩率。压缩率比gzip 小,CPU 占用小。 golang中snappy使用场合 下面是对几个简单的字符串做snappy 压缩前后对比: package main import ( "fmt" "github.com/golang/snappy" "io/ioutil" ) var ( textMap = map[string]string{ "a": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`, "b": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`, "c": `雇萸⑴翠そ戒プ遣怃济浏浑浒浓浔洱洁洄洇洋洌洎洒洗dㄤ洛《Ыㄤ洪洫洮洲洳洵蹭郴钕`, "d": `雇萸⑴翠そ戒プ遣怃济浏浑浒浓浔洱洁洄洇洋洌洎洒洗dㄤ洛《Ыㄤ洪洫洮洲洳洵蹭郴钕雇萸⑴翠そ戒プ遣怃济浏浑浒浓浔洱洁洄洇洋洌洎洒洗dㄤ洛《Ыㄤ洪洫洮洲洳洵蹭郴钕雇萸⑴翠そ戒プ遣怃济浏浑浒浓浔洱洁洄洇洋洌洎洒洗dㄤ洛《Ыㄤ洪洫洮洲洳洵蹭郴钕`, } imgSrc = []string{ "1.jpg", "2.jpg", "3.jpg", "4.jpg", } ) func main() { for k, v := range textMap { got := snappy.Encode(nil, []byte(v)) fmt.Println("k:", k, "len:", len(v), len(got)) } fmt.Println("snappy jpg") for _, v := range imgSrc { buf, err := ioutil.ReadFile(v) if err == nil { got := snappy.Encode(nil, buf) fmt.Println("k:", v, "len:", len(buf), len(got)) } } } 输出: k: a len: 46 48 k: b len: 184 58 k: c len: 246 250 k: d len: 738 274 snappy jpg k: 1.jpg len: 302829 282525 k: 2.jpg len: 89109 89051 k: 3.jpg len: 124463 123194 k: 4.jpg len: 420886 368608 如果字符串包含重复字符多压缩才看到效果,对jpg 图片的压缩率不大。 对一个实际使用的数据库是否使用snappy 做对比,用户和文章都是10万,文章内容较简单。 使用snappy 压缩前: 用时 4m32.916312692s 数据库占用空间 176,209,920 字节(磁盘上的 172 MB) 使用snappy 压缩后: 用时 4m6.750271414s 数据库占用空间 159,424,512 字节(磁盘上的 150.9 MB) 从使用时间上看,此例压缩使用的CPU 时间小于数据压缩后省下来的数据存储IO 占用的时间。因为文章数据较短、内容简单,压缩效果不明显。 总结 以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对自学php网的支持。 |
自学PHP网专注网站建设学习,PHP程序学习,平面设计学习,以及操作系统学习
京ICP备14009008号-1@版权所有www.zixuephp.com
网站声明:本站所有视频,教程都由网友上传,站长收集和分享给大家学习使用,如由牵扯版权问题请联系站长邮箱904561283@qq.com