记一次MongoDB 数据乱码处理问题

  1. 云栖社区>
  2. 博客>
  3. 正文

记一次MongoDB 数据乱码处理问题

上官瑾文 2018-07-31 12:43:05 浏览1668
展开阅读全文

公司前端组正在进行前后端分离,需要有后台接口提供,公司也没有搭建可用的Mock服务器,正好自己有现成的Flask做的一个小Demo, 现在Docker 又用的还可以,所以,二话不说后台接口我来提供。借助自己的阿里云搭起了我的微服务架构之路。

Flask 走起

Flask 提供的API相当简单,完全服务微服务架构的设计理念,我们规划做的是一个图书列表的管理,涉及到图书列表,详情,新增,删除;

API 设计如下

@app.route('/books')
def books():
    return book_model.get_books()
@app.route('/books/<string:book_id>')
def book(book_id):
    ......
@app.route('/books/add', methods=['GET'])
def add():
    ......
@app.route('/books/<string:book_id>/delete')
    ......

错误

在处理从数据库里面拿到的数据传到前端的时候就变成unicode编码了,中文全部被转换了。

err

相应的数据处理代码如下

## book_model.py
from bson import json_util as jsonb
#......
def get_books():
    db = MongoDB().get_db('liberiry')
    result = {}
    db_result = db.books.find()
    if db_result:
        result['status']= True
        result['data'] = jsonb.dumps(list(db_result)) # 直接将bson解析为字符串,由controller在转换为json
        del db_result
        return result

## controller.py
import json
# ......
@app.route('/books')
def books():
    return Response(json.dumps(book_model.get_books()))

总体思路是,将从MongoDB获取到的 bson 格式的数据转换为字符串,然后由json 的 dumps 方法将其转换回json;可转换的结果是错的。

登录装有 MonogoDB的镜像,输入查询语句,返回的结果是正常的。

  ~ docker container ls
CONTAINER ID        IMAGE               COMMAND                  CREATED             STATUS              PORTS               NAMES
c17296ed0c05        flask:latest        "gunicorn -b :8080 a…"   4 days ago          Up 4 days           8080/tcp            liberiry_flask.1.vu70ur9cuaimefxl01979haqw
451d71a2dc8a        mongo:3.6           "docker-entrypoint.s…"   4 days ago          Up 4 days           27017/tcp           liberiry_mongo.1.prlfqd3nuuo3y985dznw8nmcs
  ~ docker exec -it 451 /bin/bash
root@451d71a2dc8a:/# mongo
MongoDB shell version v3.6.6
connecting to: mongodb://127.0.0.1:27017
MongoDB server version: 3.6.6
Welcome to the MongoDB shell.
For interactive help, type "help".
For more comprehensive documentation, see
    http://docs.mongodb.org/
Questions? Try the support group
    http://groups.google.com/group/mongodb-user
Server has startup warnings: 
2018-07-27T03:21:16.488+0000 I STORAGE  [initandlisten] 
2018-07-27T03:21:16.488+0000 I STORAGE  [initandlisten] ** WARNING: Using the XFS filesystem is strongly recommended with the WiredTiger storage engine
2018-07-27T03:21:16.488+0000 I STORAGE  [initandlisten] **          See http://dochub.mongodb.org/core/prodnotes-filesystem
2018-07-27T03:21:20.877+0000 I CONTROL  [initandlisten] 
2018-07-27T03:21:20.878+0000 I CONTROL  [initandlisten] ** WARNING: Access control is not enabled for the database.
2018-07-27T03:21:20.878+0000 I CONTROL  [initandlisten] **          Read and write access to data and configuration is unrestricted.
2018-07-27T03:21:20.878+0000 I CONTROL  [initandlisten] 
2018-07-27T03:21:20.878+0000 I CONTROL  [initandlisten] 
2018-07-27T03:21:20.878+0000 I CONTROL  [initandlisten] ** WARNING: /sys/kernel/mm/transparent_hugepage/enabled is 'always'.
2018-07-27T03:21:20.878+0000 I CONTROL  [initandlisten] **        We suggest setting it to 'never'
2018-07-27T03:21:20.878+0000 I CONTROL  [initandlisten] 
2018-07-27T03:21:20.878+0000 I CONTROL  [initandlisten] ** WARNING: /sys/kernel/mm/transparent_hugepage/defrag is 'always'.
2018-07-27T03:21:20.878+0000 I CONTROL  [initandlisten] **        We suggest setting it to 'never'
2018-07-27T03:21:20.878+0000 I CONTROL  [initandlisten] 
> use liberiry
switched to db liberiry
> db.books.find().pretty()
{
    "_id" : ObjectId("5b59934719fe22fc8ecfad19"),
    "name" : "创业维艰",
    "content" : "test中国",
    "labels" : "book,bussiness",
    "author" : "本·霍洛维茨"
}
{
    "_id" : ObjectId("5b5993b843314814f50d263a"),
    "name" : "从0到1",
    "content" : "这些回答都不好。diyi和第二个陈述可能是对的,但有许多人已经表示赞同了。而第三个只简单套用了常见辩论中一方的观点。好的回答应该按照下面这种模式:“大多数人相信X,但事实却是X 的对立面。”我之后会在本章给出自己的回答。 那么,这个反主流的问题和未来有什么关系呢?从小处看,未来只是还没有到来的时刻的集合。但是真正使未来如此独特和重要的并非因为未来没有发生,而是未来的世界会与此刻不同。这样看来,如果我们的社会在之后100 年都没有发生变化,那未来就在100 多年之后。如果在之后10 年世界改天换地,那未来就触手可及。没有人能精准地预测未来,但我们知道两件事:世界必然会变得不同,但变化必须基于当今的世界。针对这个反主流问题的多数回答都是对现在的不同看法,而好的回答应该尽可能地使我们看到未来。",
    "labels" : "book,bussiness",
    "author" : "彼得·蒂尔,布莱克·马斯特斯(Blake Masters)"
}
{
    "_id" : ObjectId("5b5993e443314814f50d2642"),
    "name" : "联盟",
    "content" : "是时候重建雇主与员工的关系了。商业世界需要有利于相互信任、相互投资、共同受益的新雇佣关系框架。理想的雇佣关系框架应鼓励员工发展个人人脉、勇于开拓实干,而不是成为唯利是图的跳槽专业户。",
    "labels" : "book,bussiness",
    "author" : "里德·霍夫曼"
}
{
    "_id" : ObjectId("5b59947343314814f50d2650"),
    "name" : "人类简史",
    "content" : "在历史的路上,有三大重要革命:大约7万年前,“认知革命”(Cognitive Revolution)让历史正式启动。大约12000年前,“农业革命”(Agricultural Revolution)让历史加速发展。而到了大约不过是500年前,“科学革命”(Scientific Revolution)可以说是让历史画下句点而另创新局。这本书的内容,讲述的就是这三大革命如何改变了人类和其他生物。",
    "labels" : "book,bussiness",
    "author" : "尤瓦尔·赫拉利"
}
{
    "_id" : ObjectId("5b59954a43314814f50d2670"),
    "name" : "支付战争",
    "content" : "我的令人不安的入职经验,以及第一天上班的无序状态,说明康菲尼迪完全不是一家组织化的公司。作为一家年轻的公司,没有足够的资源投入到人力资源和IT部门,无法给新员工提供规划好的入职教育,这是情有可原的。尽管如此,这种明显的混乱状态还是有点让人不安。虽然我不愿有这种想法,但在第一天的中午,我发现自己还是禁不住地想,我对彼得的盲目信任,以及自己急功近利想快点挣钱的想法,是不是导致我犯下了一个可怕的错误。",
    "labels" : "book,bussiness",
    "author" : "埃里克·杰克逊"
}
{
    "_id" : ObjectId("5b59ac30cdc864001148ba19"),
    "name" : "asdfs",
    "content" : "asdfasdf",
    "lables" : "dfasdf,sadf",
    "author" : "test"
}
{
    "_id" : ObjectId("5b59ac38cdc864001148ba1b"),
    "name" : "asdsfs",
    "content" : "asdfasdf",
    "lables" : "dfasdf,sadf",
    "author" : "test"
}

在MongoDB中查询没有问题,所以问题应该出在了bson 转 json这块了;仔细一分析应该是出在了 Object 这块了,应为从数据库里出来的结果是下面这种结构

"_id" : ObjectId("5b59ac38cdc864001148ba1b"),

json 是无法转换 Object 的,百度谷歌一遍,大家的方法都是将查询到的就结果进行遍历处理, 如下:

results = collection.find({'age': 20})
print(results)
for result in results:
    print(result)
    # 处理 Object

显然对于拿到的结果再去做一次遍历岂不是又要耗时耗力,数据量大了性能肯定下降的厉害,所以这种处理方式不可取。

解决思路

将拿到的的数据转换为 bson 对象,然后通过json.loads()方法将其转换为json 能处理的字符串,然后在转换为json对象;由此,可以写一个通用处理方法,

## utils.py
from bson import json_util as jsonb
import json
def bson_to_json(documentList):
    return json.dumps(json.loads(jsonb.dumps(documentList)))

验证

## book_modal.py
from .mongo_connection import MongoDB
from .utils import bson_to_json
def get_books():
    db = MongoDB().get_db('liberiry')
    result = {}
    db_result = db.books.find() #'_id': False
    if db_result:
        result['status']= True
        result['data'] = db_result
        del db_result
        return bson_to_json(result)

前端调用

right

总结

数据之间的转换总是有联系的;比如这次的从 bson 到 json 的转换,首先要将查询到的结果list转换为 bson, 然后再通过bson中json_util的dumps转换为含有Object的解析数据的结果,再将其结果转换为字符串(json.loads(Obj)),通过json的dumps方法又可以将字符串解析为标准的 json 对象。

存在的即时合理的。

个人公众号

qrcode_for_gh_3c4efb2fa820_258

网友评论

登录后评论
0/500
评论
上官瑾文
+ 关注