1. 聚能聊>
  2. 话题详情

我们在技术进步的路上把道德却走丢了?

【国家广播电视总局严肃约谈今日头条、快手负责人】针对社会舆论强烈关注的今日头条、快手播出有违社会道德节目等问题,国家广播电视总局严肃约谈两网站主要负责人,责令:①问题节目立即下线;②对上传了违法违规有害节目的,关停上传功能、永久封号等;③追究相关人员责任;④确保未经审核的节目不得播出。

_

这里我们不谈“今日头条”和“快手”为什么会出现这些问题。我们是专业的技术人员,我们应该想的是怎么从技术上去避免这种事情的发生。

现在比较热门的技术:人工智能、大数据、区块链、人脸识别......
这些技术的应用可以在很大程度上去排查违规有害节目的产生。

那么:
1.你觉得以现在的技术条件是否可以有效的排查违规节目的产生?为什么?
2.你觉得哪些技术可以应用在节目的排查中?该如何去实现?
3.你觉得如果更加有效的防止违规节目的产生?

参与话题

奖品区域 活动规则 已 结束

  • 奖品一

    阿里云代金券 x 5

  • 奖品二

    手机话费 x 3

  • 奖品三

    云栖帽衫 x 1

22个回答

2

微wx笑 已获得阿里云代金券 复制链接去分享

1.你觉得以现在的技术条件是否可以有效的排查违规节目的产生?为什么?
就目前的技术来说,还只能解决一部分问题,很多还是无能为力的。
像楼上说的,有时候是一个主观性的,社会性的,大众反应性的。
一条并不违规的内容,有可能因为某件事经过大众的发酵,就有可能变得敏感了;
存在多件事情的相关性,这对目前的技术来说恐怕太难了。
社会是动态发展,而法律法规等往往是滞后的。

2.你觉得哪些技术可以应用在节目的排查中?该如何去实现?
图像识别,
自然语言识别,
违规特征库建立,
法律法规学习系统,
人工辅助学习系统,
舆情监测,举报实时分析系统

3.你觉得如果更加有效的防止违规节目的产生?
首先要分析违规节目的产生本质原因是什么?
如利益,社会矛盾,恐怖组织,……
根据本质的原因治其本,才能得到更好的结果。
在平台和监管方面,上传者实名认证,加强审核机制,增加大众监督机制,产生的影响纳入个人征信体系。

2

择高处立 已获得阿里云代金券 复制链接去分享

1.你觉得以现在的技术条件是否可以有效的排查违规节目的产生?为什么?
不太可能,这本是一个矛盾的问题,一个尺度的问题,判断是否违规根据规则,特征。违规是一个死的东西,随时可能改变;特征更是一个主观性的东西,举个例子,我觉得自己蛮帅的,但你可能不怎么认为,同理,你认为是色情成分多,他可能觉得这就是艺术。
2.你觉得哪些技术可以应用在节目的排查中?该如何去实现?
我记得有几个方面跟上来,一个是识别,一个是速度,一个是控制。目前想到的是通过大数据来快速统计特征,提高识别精确性,往下是快速的提取原本对比,最后是控制,即发现违规的操作实时性

3.你觉得如果更加有效的防止违规节目的产生?
技术+管理的模式,只能通过实名方式将责任落实到人,乱世出重典。同时在技术层面利用大数据实现高效的甄别,加强内容上传时的审核,内容发布期间的不定时捕捉等。

1

北方的郎 已获得手机话费 复制链接去分享

1.你觉得以现在的技术条件是否可以有效的排查违规节目的产生?为什么?
以现在的技术条件可以有效的排查违规节目的产生的。就看他们用不用了。

2.你觉得哪些技术可以应用在节目的排查中?该如何去实现?
视频,声音识别,动作分析,语义分析等等。

3.你觉得如果更加有效的防止违规节目的产生?
还是要加强监管

0

浮生递归 已获得阿里云代金券 复制链接去分享

1.你觉得以现在的技术条件是否可以有效的排查违规节目的产生?为什么?
可以啊,上次在云木西大会北京峰会上就已经看到了相关的技术介绍。虽然视频和图片不是结构化数据,但是现有技术已经可以将这些非结构化数据转换为结构化数据。比如一部电影,你输入一个配角的名字,就能搜出这电影里面所有有该角色出现的画面。当然,不转化也能有效排查。比如视频鉴黄就是这方面一个成功的技术落地。

2.你觉得哪些技术可以应用在节目的排查中?该如何去实现?
鉴黄肯定是排第一的。然后把把节目通过技术处理,增加结构化数据的技术名称,我已经忘了叫什么了……反正这技术很好。把每个画面的信息都结构化,这样计算机排查起来就容易了。当然,对于有问题的画面,其实计算机只需要判断出来,然后提交给人工处理就行了。除非是特征非常明显的,可以直接由软件自动处理掉。

3.你觉得如果更加有效的防止违规节目的产生?
最根本的原因还是在人身上啊,如果提高全民素质的话,这些问题都不是问题了。就像早年的夜不闭户。都没人想干坏事了,又哪来的坏事呢。

0

小可同学 已获得阿里云代金券 复制链接去分享

1.你觉得以现在的技术条件是否可以有效的排查违规节目的产生?为什么?
文字识别!!图像识别!非实名认证的用户视频,不能进行推荐和传播,或者只能好友可见。如果查到违规用户可以根据人脸识别,进行删除!当然文字相关要有相关人去看。当然更加准确的还需要人员工具关键词进行筛选删除!

2.你觉得哪些技术可以应用在节目的排查中?该如何去实现?
图像识别、声音识别、机器学习等。
例如图像识别:
n信息的获取:是通过传感器,将光或声音等信息转化为电信息。信息可以是二维的图象如文字,图象等;可以是一维的波形如声波,心电图,脑电图;也可以是物理量与逻辑值。
n预处理:包括AD,二值化,图象的平滑,变换,增强,恢复,滤波等, 主要指图象处理。
n特征抽取和选择:在模式识别中,需要进行特征的抽取和选择,例如,一幅64x64的图象可以得到4096个数据,这种在测量空间的原始数据通过变换获得在特征空间最能反映分类本质的特征。这就是特征提取和选择的过程。
n分类器设计:分类器设计的主要功能是通过训练确定判决规则,使按此类判决规则分类时,错误率最低。
n分类决策:在特征空间中对被识别对象进行分类。
人脸识别:人脸识别系统主要包括四个组成部分,分别为:人脸图像采集及检测、人脸图像预处理、人脸图像特征提取以及匹配与识别。

3.你觉得如果更加有效的防止违规节目的产生?

最主要实名认证!!外加人脸识别!!必须要身份证为同一个人!!

0

aoteman675 已获得手机话费 复制链接去分享

1.你觉得以现在的技术条件是否可以有效的排查违规节目的产生?为什么?
技术只是解决部分问题,更多的是隐性问题很难发现,比如间歇性的舆论政治行为,或者是隐含低俗反社会倾向,这些都要靠人工去审核的。很多内容表面上看不出什么问题,但是广泛传播之后会引发多种舆论,因为我们文化众多,地域风俗不同,人工审核是很有必要的。
2.你觉得哪些技术可以应用在节目的排查中?该如何去实现?
语义识别过滤,文字提取识别,图像分析系统,大数据舆情分析系统。
低俗内容机器学习系统。
3.你觉得如果更加有效的防止违规节目的产生?
强势一点就不会产生那么多低俗内容了,比如实名认证、永久封号等,前置内容审核系统,必须层层把关后才能流入平台。

0

老离 已获得阿里云代金券 复制链接去分享

那么:
1.你觉得以现在的技术条件是否可以有效的排查违规节目的产生?为什么?

完全没问题,只是企业为了流量刻意放纵罢了,图片鉴黄技术发展到现在已经很成熟了,更何况还有人工审核,第三方举报监督

2.你觉得哪些技术可以应用在节目的排查中?该如何去实现?

图片、视频鉴黄
智能客服举报,一键提取举报信息
按照提前设置好的模板抓取当前页面的信息,省去用户手动填写的一部分内容

3.你觉得如果更加有效的防止违规节目的产生?

有关部分加大处罚力度
建立健全第三方监督机制

0

guoshengtao 已获得手机话费 复制链接去分享

1.你觉得以现在的技术条件是否可以有效的排查违规节目的产生?为什么?
我觉得是可以的,但是得花费一定的精力和时间,因为现在的技术已经很牛了,不管是在数据处理能力,还是在识别能力上,我们还是很强的,比如说阿里云的云计算,在每年的双十一那种高并发的情况下都可以很轻松的解决那么多订单,可见其数据处理能力,还有各种声音识别,图像识别,我觉得可以的。

2.你觉得哪些技术可以应用在节目的排查中?该如何去实现?
很多啊,云计算,大数据,包括目前最火的人工智能等等。利用这些技术超强的计算及处理能力,因为排查某一个视屏节目是很耗计算能力和处理能力的。

3.你觉得如果更加有效的防止违规节目的产生?
技术加实名制加奖罚制度。首先运用技术去甄别每一个节目,其次每个人必须得实名,对那些违规的进行处罚,并且(严重时)必要时可以公开罚他,做到杀一儆百(哈哈)。

0

1677695356809641 复制链接去分享

时代在发展,科技在进步,阻止不了

0

1555323188330795 复制链接去分享

66666666666只会喊666

0

1400822160443270 复制链接去分享

333....................

0

锐思互联 复制链接去分享

感觉还不错哦这本是一个矛盾的问题,一个尺度的问题,判断是否违规根据规则,特征。违规是一个死的东西,随时可能改变;特征更是一个主观性的东西,举个例子,我觉得自己蛮帅的,但你可能不怎么认为,同理,你认为是色情成分多,他可能觉得这就是艺术。
2.你觉得哪些技术可以应用在节目的排查中?该如何去实现?
我记得有几个方面跟上来,一个是识别,一个是速度,一个是控制。目前想到的是通过大数据来快速统计特征,提高识别精确性,往下是快速的提取原本对比,最后是控制,即发现违规的操作实时性

3.你觉得如果更加有效的防止违规节目的产生?
技术+管理的模式,只能通过实名方式将责任落实到人,乱世

0

小二青年ll 复制链接去分享

我觉得作为网络企业,应该还是从自身出发,多释放正能量,如果企业只为盈利而不顾行业利弊,这种不好的行为作风,应该是从国家法律上来处罚和规避,如果单靠技术手段,我觉得至少现在这个环境下,还不能完全实现。

0

沃丶wei 复制链接去分享

有几家公司没有过,现在好多企业都是有钱说会去赚。以前的某度、某播、某雷、某些直播平台……现在的某手、段子……特别多。对青少年的引影最为重大……不多说了大家都知道。我认为国家要严格对代这些企业或平台会好多了。

0

宽带 复制链接去分享

你觉得如果更加有效的防止违规节目的产生?
监督

0

晚餐 复制链接去分享

你觉得哪些技术可以应用在节目的排查中?
图像识别

0

1796823038176742 复制链接去分享

我们可以负能量,但现在我生生活在负能量的工厂,斩草要除,打蛇打七寸,发展了真么久了,现在还只是我约谈!我我说政府不作为,是不是有点说多大了!低俗内容叫原创,可笑!技术做不好就不要做视频公司,国家要对这种现象走严打路线,天天不好好上班,不思考奋斗,都做白日梦,傻开心,穷乐呵

0

zyyzjln 复制链接去分享

(。・ω・)ノ゙

0

少红bj 复制链接去分享

用人脸识别技术一旦发现低俗事件就封号,一段时间里不可以使用

0

1282622910472963 复制链接去分享

大数据。数据多了。案例多了。就能更好的避免这些低俗问题

2