珍珠项链

消失的人工智能 “法外之地”

发布时间:2020-08-06

var pageData = { headVideo : {} };

美国首都华盛顿特区,国会山庄北部。一阵笑声,从玻璃窗里传出。窗外晴空万里、绿野满坡,圆柱式门廊气势恢宏……

世界顶级立法机构的办公环境,果然宜人。

这一切,对于40岁就坐到参议院办公桌前的霍利(Josh Hawley)来说,他的黄金岁月才刚刚开始。

2019年,分水岭。

此前,他是美国密苏里州第42任司法部长。

此后,他是美国国会参议员。

作为一个每天都在上演“提案如何变成法律”的立法机构,美国国会的关键词本该是“庄严”。然而,国会却频繁“做客”美国脱口秀演播间。

很多年前,马克·吐温讲出了实话:“这是一群‘土生土长的犯罪团伙’”。

而霍利在同僚中,保持着一项幸运的记录——本届美国参议院最年轻的议员。

对于政治家来说,年轻与激进都是优势。川建国拥有后者。霍利,两者兼具。

上任不久,他迅速成为共和党在科技产业问题上最响亮的声音。

东边日出,西边雨。

一种浓烈的自豪感,正在“抖音在国外有多火?”话题的带动下升腾。

无数掌声,正在送给头条系产品——抖音面向中国以外市场的TikTok。

政客高亢激昂的演讲、TikTok节奏强劲的短视频,就像“含笑半步癫”,是洗脑、居家、旅游的必备良药。

而今,在美国,它们混淆在一起,成了一种不和谐的背景音。

北京时间3月5日凌晨,华盛顿特区,一场美国国会参议院的听证会,正围绕用户数据安全、隐私问题展开。霍利议员挥舞起旗帜,在个人主页用加粗字体写下大大的标题:TikTok是“危险的伙伴”。

霍利早都准备好了。

他自信满满地坐在听证会的皮椅上,却久久未等到两位主角到场。

一则快报的标题是《TikTok和苹果,两公司双双缺席听证会》。

TikTok发言人告诉媒体:“我们感谢霍利参议员的邀请。不幸的是,短期内,我们无法提供能够为实质性的讨论做出贡献的证人。”

霍利坐在椅子上回忆,这是TikTok第二次拒绝参加听证会。

上次是2019年11月。

霍利能高兴嘛?虽然他知道自己这样做也只是为了吸引媒体注意,但是没有配合的演出,就是大写的尴尬。

“拒绝参演”后的整整一个月,TikTok都没有闲着,2019年12月赶紧发布了上半年《透明报告》,虽然内容不长,只有5页,但态度还是优秀的。Facebook自2013年起,也会定期发布。

一面,霍利等国会参议员已经开启团队作战模式,加入的参议员越来越多。

一面,TikTok呢,越来越争气。

在美国已下载超过1.23亿次。

在每月5亿活跃用户中,有2650万来自美国。

约有60%在16至24岁之间。

在不到18个月的时间里,美国成人TikTok用户数量增长了5.5倍。

议员们一边开会讨论,一边看着TikTok增长曲线往会议室天花板上窜。

霍利站立起来,说出他的好主意:

怀疑TikTok上传的短视频可能会泄露美军的秘密,对于美国能够接触到敏感的国家安全信息的人,禁止在政府设备上安装TikTok。

公务员管公务员,没毛病。

在听证会后,TikTok觉得此事得当面解释清楚,表示:

“(我们)最近与几位国会议员取得了联系,(大家)有兴趣在不久的将来见面。”

除了可能的约咖啡、约饭之外,TikTok也绞尽脑汁。比如,计划建立一个“透明中心”,允许外部专家查看公司团队如何管理短视频内容。

据说,位于美国洛杉矶,将于2020年5月开放,共享源代码和公开独立安全措施。

这里的工作令人向往,每天都看各种有趣的短视频,像极了很多人疫情期间每天躺在床上的销魂姿势。不用愧疚,大家都中了毒,用户平均每天在TikTok上花费52分钟。

为了证明产品“无毒”,让美国用户“吃”得放心,TikTok快马加鞭复制出西贝莜面村同款透明厨房。

听证会上的一切发言,都是要宣誓的。怀疑、质疑、传闻,都可以让美国立法机构采取一定程度的行动,而不限于事后惩罚。美国立法机构质疑TikTok产品层面的数据收取、保存路径。

谁能想到,TikTok会和数据泄露界的“犯罪之王”脸书公司相提并论,同样成为讨论数据安全、隐私问题的焦点。

图为传说中的TikTok(美国加州办公室)

TikTok背过脸,轻轻拭去脸上的泪水,有些眼泪是因违反美国儿童隐私法,被罚了几百万美金而流下的。

华盛顿夜未眠,立法争论永不休。

这只是一道坎而已,九九八十一难在后面排队拿号。

2020年3月6日。

听证会的第二天,TikTok有了首位首席信息安全官Roland Cloutier,他也是一位网络安全专家,向抖音负责人朱骏(Alex ZHU)汇报。

这一消息,霍利也注意到了。

中国互联网公司全球化的阻力好比台风天黑压压的乌云,有一朵,始终是数据安全和用户隐私。

东边日出,西边雨。

美国国会立法调查好比“鹰眼”,欧盟《一般数据保护条例》(GDPR)好比“鹰爪”。为保护数据,GDPR已经织起了天罗地网。一项强制性法律,保护的是自然人的“个人数据”,包括姓名、生日、信用卡、地址、病史、位置信息、行踪轨迹……

这个条例对AI技术的约束是从摇篮到墓地。“摇篮”是指,一开始获得授权,得用户点击“同意”;而“墓地”就是,数据用完了也不能存太久,还得抓紧时间删除。

《三国杀》里的曹丕说:“管杀,还得管埋”。

简单讲,数据是情报,是生产资料,AI技术极度依赖数据。没有汽油,劳斯莱斯再昂贵也只能观赏,无法行驶。缺了数据,再先进的AI也只能人工,无法智能。

所以,法例的约束会贯穿AI产品整个生命周期。窒息的高墙下,只留“合规”这个窄门,门后是欧盟市场5亿发达人口。

欧洲高度注重隐私和数据保护,这是文化。

第二次世界大战期间,欧洲建立了详细完备的个人数据库。结果,被纳粹用来清洗犹太人和迫害反纳粹人士。

欧洲600万犹太人的冤魂不散,致使很多欧洲人终身坚信,无论是出于何种目的,个人信息到后来一定会被滥用。

耶路撒冷灰暗的混凝土墙壁、静默的白色马安石地面、英文和希伯来文悼词,没有人再去打扰这份宁静。

二战结束五十年后,GDPR的亲大哥《95指令》出生(1995年)。2009年,亲二哥《欧洲Cookie指令》出生。你别误以为GDPR是一个人在冲锋。不,这是一家子在战斗(Cookie是互联网常用的用户跟踪和识别技术)。

程序员开玩笑会说:

“数据和女友不能分享。”

欧洲程序员再加一句话:

“这是法律规定。”

欧盟高管表态:“我们欧盟委员会(的人),并不反对来自大西洋彼岸的科技巨头,但是前提是,他们必须守规矩。”

美国互联网企业享受了全球化最好的一轮红利,俯仰之间,王公贵胄、皇亲国戚都难逃一考。

加试题目是:数据安全与用户隐私保护。

东边日出,西边雨。

TikTok是AI技术领域的“贵族”,有着领先行业完整的现代化推荐系统(含推荐算法、训练平台、后端架构的推荐系统技术栈),建设有大规模分布式实时机器学习训练平台和分布式高性能Parameter server平台。

海量短视频数据,“化作”充足的生产资料,使TikTok有能力探索最新机器学习算法落地。

TikTok在用AI算法改造自身业务的路上从来不迟到。甚至有外媒总结:“截至2020年,TikTok已成为全球最受欢迎的应用程序之一(至少对于某些年龄以下的用户而言),其成功由一些世界上最先进的AI技术推动。”

一位曾经就职于小桨科技(产品,微叭App)的视频推荐算法工程师告诉我:“推荐算法(的结果)要看留存率、点击率、活跃时长、播放时长,(公司)直接考核业务指标。不达标会被产品经理锤死。”

机器无电不休,算法日夜不眠,算法工程师在“拼命”,背后站着熬红了眼的产品经理。

AI早已应用于挽回用户流失等功能。

产品经理一边唱着“爱我,别走……”,

一边伸出胳膊指挥:“再次对用户投放广告,精准挽留。”

“你的偏好,我知道。”用户每一次上翻、下滑、点赞,都是一份《产品改进意见书》,背后还有今日头条 AI lab 的支持。

AI技术渗透的力量,摧枯拉朽。一个没有智能算法的TikTok,已经不可想象。

东边日出,西边雨。

GDPR的余音回响,欧洲版的营业执照,一照难求。

2020年,当你打开GDPR认证的网站,可以看到许多站张熟悉的中国面孔,华为、小米、OPPO、美的、第四范式。OPPO进军欧洲市场,其认证的产品种类之多,居然包括了计算器(Calculator)和钟表(Clock)。

李鸿章在给同治皇帝的奏折上写下,“三千年未有之大变局”。

变局已成定势,做好思想准备和工作准备。

美国已死,欧洲苟活,人工智能法外之地会一寸一寸消失。

来者,需要拥抱高墙、窄门。

拥抱合规、限制、约束。

拥抱枷锁、脚铐、铁链。

将思考的维度上升到管理与合规,渗透在技术思考之中,包括在框架之内,体现在解决方案里。而不是绕着它走。绕也绕不开。

这些,要看企业是否愿意付出额外努力。

第四范式创始人兼CEO戴文渊的答案是:我愿意。

戴文渊,总是讲话温和,语速平缓,但是一旦你给他抛出问题,就能感受到清晰、缜密的思考力。

他说:“从技术手段上讲,保护隐私和数据安全是有办法的。不是没有办法,而是说,想不想解决?愿意花多大的代价去解决?”戴文渊似乎没有对GDPR低头。

他轻描淡写地提了一句,“第四范式的先知平台,已经是国内首个通过GDPR认证AI平台”,这一句更是增添了上一句话的底气。

突然想起香港应用科学研究院的一位博士也说过类似的观点:“技术上翻越肯定是可以做到的,只是很多时候不愿做,或者懒得做。”

业界有一个声音:

机器学习是一个有难度的技术,是“难度一次方”。

机器学习想落地,变成“难度二次方”。

再解决隐私保护问题,这又是一个很有难度的问题,变成“难度三次方”。

解决这些技术问题,专家不是一般的专家,既要懂机器学习技术,又得懂隐私保护技术,还得懂业务。要求是非常高的。

用金庸的话说,练成易筋经,需体质强。练成乾坤大挪移,需内力高。练成独孤九剑,需资质慧。想成为攻克“难度三次方”的专家,需能运用多种武功入化境。南帝北丐很难批量培养。望眼整个武林,还好有一代宗师。

一代宗师可能会说:

“解决好隐私保护问题,看上去是一个技术问题,实际上是,人工智能的从业者要有一种思维的变革意识。将对文化、制度、法律等“社会因素”的思考融入代码、模型、架构、解决方案……”

第四范式主任科学家涂威威告诉我:

“隐私保护作为一个学术问题已经走了很长一段路了,较早之前的需求来源于企业自我保护。个人关心隐私,企业关心的是商业机密。”

涂威威用两句话概括了隐私保护技术的昨天,继而又谈起它的现在。

他总结到:

“隐私保护就是一个矛与盾相争的过程,大家都研究又会出现哪些新的攻击手段,又有什么方法可以保护。”

“隐私保护会涉及到非常多种类的技术,有底层的,也有最近几年才奠定起基础的。涉及的技术种类多,不是为了卖弄技艺,而是面对的情况复杂。”

拳守“数据安全”,脚护“隐私保护”。

易筋经、乾坤大挪移、独孤九剑,演变成“差分隐私算法”“安全多方计算”“自动多方机器学习技术”“联邦学习”。

当细数起这些“厉害的”技术,涂威威的语速加快,仿佛不需思考。

“根据不同场景,有时可能是允许数据出去的,可以通过加密的方式出去,运出去的过程中别人是没有办法知道的,因为是加密的,这里参考图灵奖获得者姚期智老师的思想,用安全多方计算。

有时可能是不允许数据出去,出去的只是一些统计结果或者模型,这里参考香港科技大学杨强教授的联邦学习技术。”

香港科技大学杨强教授曾说:

“联邦学习希望在不共享数据的前提下,利用双方的数据实现模型增长。”

他曾举例:

“假设A和B两家公司想要建立一个用户画像模型,其中部分用户是重合的。联邦学习的做法是,首先通过加密交换的手段,建立用户的识别符(identifier)找出共有的部分用户。

因为关键用户信息并没有得到交换,交换的只是共有的识别符。再将各自拥有的同样用户的不同特征输入,迭代地进行模型训练、参数交换。

我们证明了给定模型参数,双方不能互相反推出对方拥有的、自己没有的特征,因此用户隐私仍然得到了保护,双方的模型性能都得到了提高。”

姚期智院士、杨强教授……宗师们总有无上智慧。

“为什么第四范式会做隐私保护技术?”

涂威威的答案是:

“第四范式作为一家创业公司,初始做隐私保护技术是出于一群有理想的年轻人的前瞻性预判。一种来自技术本能的预判,数据孤岛迟早要打破,当打破发生之时,这个技术成为必备品,只靠‘解决信任’路途尚远。”

然而,现实的磨砺很快降临在向理想前进的路上。

涂威威说,我们的“一只脚”伸入到了金融,为什么是金融,因为金融的数据是最完备的,我们的技术是在数据之上做决策,必然选最完备的行业。

“一只脚”后,金融、医疗行业对隐私保护的需求推动了技术的另一轮发展。比如,第四范式经常参与银行竞标,《招标书》里,绝不会少了数据安全性条款。

涂威威在以往的《银行招标书》中划好了重点,并指给我看。

“隐私数据保护技术,苹果、谷歌都在用,谷歌早在2016年就提出了本地化差分隐私(Local Differential Privacy)技术,并成熟应用在产品数据采集阶段,第四范式的优势在哪?”

涂威威越谈越从容,带压力的问题也难不倒他。

他说:

“第四范式也提出应用在机器学习模型上的差分隐私技术,我们将训练数据按特征切开,并分别去训练,按特征重要性来进行隐私预算的分配,重要的特征分配较少的隐私预算,不太重要的特征则分配较多的隐私预算,从而保证了在相同隐私保护的条件下,获得更加有效的分析结果。”

涂威威的回答,就好像准备了答案,细节中处处都有巧思,无法容下不满意的蛛丝马迹。

话声未落,他就在草稿纸上手写了一篇学术论文的题目《Privacy-preserving Stacking with Application to Cross-organizational Diabetes Prediction》。

论文只是在工业界解决问题时的“副产品”,他想把荣誉感写在产品上。

他介绍,在公司的算法实验室里完成工作后,其实还有两个重点,一个是自动化,一个是场景。

他谈道:

“隐私保护,如同加密,解密。暴露的中间过程越多,泄露隐私的可能性越大。比如,AutoML(自动机器学习)之所以能够减少隐私的泄露,其实就是减少了人触碰数据的机会,减少人去分析特征,减少人在各个环节泄露隐私的可能。让机器去完成中间的过程,最后输出结果。自动多方机器学习就是隐私保护的自动机器学习,中间的过程全部是自动化完成的。”

他的答案中,技术细节多,观点少,唯有这句:“算法的未来就是自动化,不能自动化的算法,剩下的路也不长了。”

余音未尽,尚在绕梁。

场景落地又是另一场硬仗。他压低声音说了一句:

“如果不是瑞金医院的瑞宁知糖项目(预测三年后患糖尿病的概率以及个性化的干预),医疗算法团队都要稳不住了。”

创新,有时候就是下了一步险棋。

涂威威和也和我讲了“作弊”的办法:

“从某种角度讲,成本最低、效率最高的方式是侵犯隐私。”

好比打扑克偷看别人手里的牌。如果全世界艾滋病药厂知道了患有艾滋病人的家庭住址,就不需要打广告了,直奔病人家,挨家挨户兜售不就完了。

广告费都省下了。

别人披荆斩棘,你通过践踏个体隐私直接抄了近路。

法律会让你一直痛快下去吗?

企业选择用技术保护隐私时,其实是选择了一条“刀光剑影”的路。说不定就会像涂威威一样,没有好的落地场景,变成“光杆”。

观察发现,不少企业也在“研制隐私保护的秘诀”。由于金融行业是数据界的富豪,联邦学习技术被用于中国首家互联网银行——微众银行。微众银行也在推动“联邦学习”的标准。

从某种意义上讲,这是一份全球领先的标准。联邦学习作为隐私保护的代表技术,并没有被欧美大厂垄断。

在隐私保护的江湖里,中国人工智能从业者并不甘心屈服于国外标准。

招商金科(招商银行下属金融科技公司)一位不愿意透露姓名的研发高管告诉我,他们也参与了“联邦学习”第二版标准的制定,但不便于接受采访。

“京东集团也在使用联邦学习保护数据隐私。”京东大数据研究院首席数据官刘晖告诉我。

东边日出,西边雨。

流量、广告、品牌……的老故事,已经翻篇。中国互联网企业想变成全球互联网企业,光靠突破Facebook、Google、Amazon的防线,已经不够了。企业的战场向四面八方延伸,“法外之地”正在消失。

在别人看来绝望的事情,“创新者”与“创造者”总能从中找到希望。

虎嗅24小时



声明:内容来自搜狐,该文观点仅代表作者本人,本站仅提供信息存储空间服务。如果需要删除请联系站长;

珍珠项链
降价效果不明显?乐视控股世茂•工三再度流拍 专家称上海火灾惨案说明我国城市化质量低 河北高阳一医院LED屏现辱华言论 嫌疑人已被抓获 福建省预计将减免企业三项社会保险缴费130亿元左右 土耳其:叙利亚库尔德武装没有完成撤离 “90后”北大博士拟任团市委副书记 沙漠夜空古乐飘 箜篌音乐会如梦如幻 普吉岛翻船事故:懒猫平台44名游客有40人取得联系 中国工程院原副院长徐德龙去世 享年66岁 南京市工业规上企业全面复工 “追产能”成首要任务 H7N9溯源:人类感染的病毒和禽类感染的不一样 习近平:愿意进口更多国外有竞争力的优质农产品制成品和服务 政务要闻太原北站开展“迎七一”系列团日活动 视觉中国恢复上线:未登录无法检索 新增举报功能 朝阳区今年建成23家养老驿站,总计超160家 媒体梳理政府“神回复”:分打太极等三种类型 香港网上援交泛滥 警方寻获20名未成年少女 网友称人脉在中小城市更重要 不打破蚁族无退路 北京:中介发布含有升学承诺的假广告将立案查处 首都机场发布延误黄色预警:通行能力下降30% 凯撒旅游触电免税

消失的人工智能 “法外之地”

づ痛风能吃兔肉吗ヤ,づ销售数据表ヤ,づ蜂蜜水能止孕吐吗ヤ,づ蜂蜜水怎么喝ヤ,づ药店 员工 工资表ヤ,づ北京王府学校 电话ヤ,づ河北润辉环保科技有限公司ヤ,づ飞椅儿童游乐设备ヤ,づ星露谷物语甘蓝菜ヤ,づ愚公移山的故事在线收听ヤ,づ鬼故事短篇超吓人1000字ヤ,づ娘家的故事沈建弘结局ヤ,づ十八个月宝宝讲故事ヤ,づ淘宝下载电脑ヤ,づ搞笑有哲理的小故事ヤ,づ大型音响设备一套多少钱ヤ,づ旅游管理专业毕业论文选题ヤ,づ娘家的故事第2部81ヤ,づ硕士论文答辩要哭了ヤ,づ品牌服饰批发冬季女装ヤ,づ先天下美食团购ヤ,づ生态环保人才ヤ,づ国家环保产品清单ヤ,づ三观家长学校学习内容ヤ,づ完结全本玄幻小说排行ヤ,づ九州飘渺录电视剧在线看ヤ,づ阳光网家园故事汇ヤ,づ台湾美食加盟网ヤ,づ玉石砖装修效果图ヤ,づ名人的家规家训故事ヤ,づ深圳装修工程招标信息ヤ,づ城阳流亭装修公司ヤ,づ中国家庭报家长学校看直播ヤ,づ狠狠爱电影院.comヤ,づ上海1120手表哪一年ヤ,づpsp美食的俘虏中文ヤ,づ设备维修职责ヤ,づ东莞长安电镀设备厂ヤ,づ装修新型环保材料好不好ヤ,づ夜店dj串烧经典歌曲13首ヤ,づ金湾装修装饰公司ヤ,づ东京爱情故事谁唱的ヤ,づ驴与公主的故事ヤ,づ杨幂电视剧电影ヤ,づ南风dj现场ヤ,づ广州著名美食店有哪些ヤ,づ南平武夷名仕广场美食ヤ,づdj网站佛山ヤ,づ毛姆珍珠项链故事情节ヤ,づ法学本科专业课程表ヤ,づ在线翻译免费下载ヤ,づ开胃菜单词ヤ,づ怎么样做湖南菜ヤ,づ帅气的外国男明星ヤ,づ学做东北菜肉包子ヤ,づ绵阳南山双语学校收费情况ヤ,づ钨钢手表价格表ヤ,づdream quest中文翻译ヤ,づ英语搜狗翻译器在线翻译ヤ,づ经典励志创业故事ヤ,づ议论文谈礼貌ヤ,づ蜂蜜水可以送药吗ヤ,づ西安令天天气预报ヤ,づ陈晓的电视剧哪部好看ヤ,づ团购机械手表ヤ,づ有关于家乡环保的作文ヤ,づ公主爱上恶龙的故事ヤ,づ明日的天气瓦房店ヤ,づdj双电子琴甜歌串烧ヤ,づ意式装修风格有哪些ヤ,づ南宁47路公交车线路ヤ,づ小故事大道理下ヤ,づ完结军婚小说排行榜ヤ,づ情se小说目录大全下载ヤ,づ励志短片小故事ヤ,づ城市猎人 电视剧下载ヤ,づ精工手表快慢怎么调整ヤ,づ儿童故事大全文字版1至两岁ヤ,づ办公设备维保合同ヤ,づ贵州昆虫美食小吃ヤ,づ网络设备清点ヤ,づ爱淘宝和淘宝联盟ヤ,づ妖姬杨贵妃dvd电影迅雷ヤ,づ隋朝成语历史故事400字ヤ,づ淘宝网店女装分销ヤ,づ时尚女装品牌淘宝ヤ,づ热门的基督教歌曲ヤ,づ赛尔号太阳能电池板ヤ,づ酷狗里劲爆dj舞曲名字ヤ,づ二炮手电视剧下载ヤ,づ经典电影 ed2kヤ,づ最火的玄幻小说完结排行榜ヤ,づ剧情2 免费注册电影ヤ,づ太阳能电池板大小ヤ,づ成都二手设备回收商ヤ,づ100篇英语小故事大全ヤ,づ淘宝网女装maoyiヤ,づ装修施工设计一体化ヤ,づ有道翻译王学英语ヤ,づ广州恒宏环保科技有限公司ヤ,づ泰国菜 饭店ヤ,づ天气预报查询一周30天杭州ヤ,づ网上家长学校知识竞赛ヤ,づ电脑上好的翻译软件ヤ,づ环保口号和标语短的ヤ,づ品牌女装陈列搭配ヤ,づ郭采洁电影台词ヤ,づ质量最好的音响设备ヤ,づ小卫生间装修 图ヤ,づ我听奶奶讲故事扩句ヤ,づ柠檬蜂蜜水能降尿酸吗ヤ,づ猪肉馅配什么菜好吃ヤ,づ九头鸟酒家招牌菜ヤ,づ代理招商网微信女装ヤ,づ炖肉大锅菜的做法ヤ,づdj中英文慢摇ヤ,づ学校安全专题会议ヤ,づ故事情节ヤ,づ浪琴手表过敏吗ヤ,づ美食天下 北京ヤ,づ女主强大纯江湖小说推荐ヤ,づ蜂蜜加糖 面膜ヤ,づdj舞曲网伤感音乐ヤ,づ淘宝商城凡凯女士服装ヤ,づ乡村爱情故事5 44集ヤ,づ泰坦尼克号沉船视频电影ヤ,づ河北的环保除尘设备公司ヤ,づ精美热菜图片与做法ヤ,づ议论文逆境ヤ,づ香港tvb聊斋二电视剧梁小冰ヤ,づ信蜂第二季新世界动漫ヤ,づ攀枝花中职学校有哪些ヤ,づ广东一建报名时间表ヤ,づ白雪公主的故事启发ヤ,づ丫鬟挨板子故事大全ヤ,づ爱传万家说出你的故事阎维文ヤ,づ六安太阳能热水器维修店面ヤ,づ汽车维修设备价格表ヤ,づ高铁到仙女湖专线时刻表ヤ,づ五笔字根表和怎么打ヤ,づ交通安全生产月活动进学校ヤ,づ爽夏环保空调ヤ,づ诡案组小说全集百度网盘ヤ,づ娘家的故事1发布会ヤ,づ关于蜂产品的网站ヤ,づ美菜网带车司机工资表ヤ,づ太阳能光伏选展宇新能ヤ,づ数码相机是输入设备ヤ,づ瑞香金圣香烟价格表图ヤ,づ民办学校申请年检报告ヤ,づ感动中国学生的100个品德故事ヤ,づ江苏环保袋ヤ,づ牛奶 蜂蜜ヤ,づ福建省工业学校图片ヤ,づ带手表开车的图片大全ヤ,づ我与读书的故事600字初中ヤ,づ北海市卫生学校好吗ヤ,づ硕士论文怎么开题ヤ,づ画蛇添足出自寓言故事成语ヤ,づ广西南宁鸭苗批发市场ヤ,づ东郊小镇装修案例ヤ,づ线织秋装新款女装外套ヤ,づ本溪明日天气预报ヤ,づ世界血腥恐怖电影ヤ,づ贵阳卡伦美容化妆学校ヤ,づ农村别墅室内大厅装修效果图ヤ,づ谁是你的菜张柏芝ヤ,づ快手社会摇合集视频ヤ,づ小说乡村猎艳萧铁柱ヤ,づ五笔字根表86版加五笔识ヤ,づ高中发表论文ヤ,づ淘宝网官方免费下载ヤ,づ日照天气预报一周15天查询ヤ,づ海带的家常菜做法大全ヤ,づ六天七夜中文电影高清下载ヤ,づexcel表如何一行一个颜色ヤ,づ国立纯净水设备ヤ,づ昆明半月天气预报30ヤ,づ无锡8月10日的天气预报ヤ,づ北京酒店设备价格ヤ,づ江门一职学校舞蹈ヤ,づ蒜蓉辣酱娃娃菜泡菜ヤ,づ爱神手机电影下载ヤ,づ介绍最新恐怖电影的网站ヤ,づ蛇女电影下载ヤ,づ在线观看完整电影避风港ヤ,づ北欧卫生间轻奢风装修效果图ヤ,づ济南门窗机器设备ヤ,づ武汉到北海飞机票价ヤ,づ大连一邯郸火车时刻表ヤ,づ屏幕大的智能手表ヤ,づ广西南宁一级医院有哪些ヤ,づ榆林地埋一体化污水处理设备ヤ,づ上海夜宵人气美食ヤ,づ大学生开淘宝店多少钱ヤ,づ汤白菜做法大全家常菜ヤ,づ资产负债表填制实训报告ヤ,づ泉州环保网ヤ,づ不你不必要英文翻译ヤ,づ南通干货批发ヤ,づ惠州环保工程设备ヤ,づ郑州市小型酿酒设备价格ヤ,づ2019城市情感故事小说ヤ,づ老梁故事汇全集免费mp3ヤ,づ我的环保金点子画ヤ,づ两年的假期故事梗概ヤ,づ我的读书故事6000字ヤ,づ广厨厨房设备ヤ,づ皇明太阳能江西维修点ヤ,づ小说东京爱情故事ヤ,づ阳光的爱情故事小薇ヤ,づdj印度风格慢摇舞蹈ヤ,づ太阳能光伏发电进展ヤ,づdj打碟软件中文手机版歌曲ヤ,づ绿色环保行业协会ヤ,づcctv 泰国电视剧ヤ,づ乐蜂网怎么买东西啊ヤ,づ肃宁微电影良心ヤ,づ百鸟朝凤电影观后感1000字ヤ,づ白雪公主的故事和狼ヤ,づ宝贝dj 嗨嗨网ヤ,づ电子商务运营管理干货ヤ,づ帝亚吉欧 品牌故事ヤ,づ室内装修急招施工队ヤ,づ电器环保标语ヤ,づ如何写个人简历表格ヤ,づ小学语文有哪些寓言故事ヤ,づ吃不惯泰国菜ヤ,づ大连明日天气预报ヤ,づ家庭装修环保论文ヤ,づ蜂蜜柠檬茶 好处ヤ,づ室内r儿童游乐场设备ヤ,づ陈慧琳记事本dj视频ヤ,づ望夫成龙电视剧在线看ヤ,づ许嵩背后的故事全集ヤ,づ环保之亲近大自然手抄报ヤ,づqq图片雨后的小故事ヤ,づ佛山喜意私房菜ヤ,づ重庆哪家装修公司好 生活家装饰ヤ,づ霍林郭勒市天气预报ヤ,づ鬼舞步劲爆歌曲djヤ,づ奥能凯空气能热水器规格ヤ,づ广庭州摄影培训学校ヤ,づ到家美食网ヤ,づ最近十大热门话题ヤ,

珍珠耳环
霍利议员挥舞起旗帜,在个人主页用加粗字体写下大大的标题:TikTok是“危险的伙伴”。 在不到18个月的时间里,美国成人TikTok用户数量增长了5.5倍。 怀疑TikTok上传的短视频可能会泄露美军…
珍珠新闻网【www.ok556.cc】珍珠是在几种软体动物中,珍珠项链,珍珠耳环,珍珠戒指,由于在套膜里面或下面层层真珠质围绕不附着于外壳的外来粒子聚合而形成的稠密凝结物, 国家新闻,科技新闻,科学探索,国内新闻,具有各种形状,但最典型的是圆形和梨形呈现各种颜色,但通常是白色或浅色,珍珠粉,黑珍珠,金珍珠,且有不同程度的光泽,可做装饰或入药。

最新发布

相关推荐

本周最热

珍珠项链销量最好

珍珠钻石 彩色珍珠 北海珍珠 珍珠首饰 海螺珍珠 同仁堂珍珠粉 欧诗漫珍珠粉 欧诗漫珍珠白 珍珠粉祛斑 皇室珍珠 珍珠美容膏 珍珠粉去痘印 珍珠批发 太湖珍珠 千足珍珠 京润珍珠化妆品 蜂蜜珍珠粉面膜 珍珠膏 珍珠蚌 周大福黑珍珠项链 18k珍珠项链 缝纫 梳子 网纱 龙骨 排线 舵机 丝杆 车蜡 车掸 钢锯 书签 浴帽 牙签 浴擦 浴刷 卡座 美甲 锯片 其它 剑袋 剑托 彩泥 设备 绕珠 簸箕 灭鼠 除蜡 掸头 转盘 拼板 拼图 建构 蹬被 封边 脸盆 吊环 珍珠粉 黑珍珠 金珍珠 紫珍珠 珍珠粉面膜 京润珍珠 珍珠母 大溪地黑珍珠 大溪地珍珠 淡水珍珠 海水珍珠 天然珍珠 珍珠衫 珍珠饰品 京润珍珠官网 阮仕珍珠 京润珍珠粉