Die Online-Plattform 6love.ch wird in Kürze eine neue Maßnahme einführen, um unangemessene Inhalte frühzeitig zu erkennen: die KI Nudity Detection. Mithilfe von Künstlicher Intelligenz soll Nacktheit und Pornografie auf der Plattform automatisch erkannt werden.
Obwohl die vollständige Nacktheit und Pornografie auf 6love.ch bereits verboten ist, wird die neue Maßnahme sicherstellen, dass diese Regeln noch besser durchgesetzt werden. Die KI-Technologie ermöglicht es, dass alle Bilder und Videos auf der Plattform automatisch auf Nacktheit und Pornografie gescannt werden.
Sollte ein unsicherer Wert festgestellt werden, wird das Bild von einem Administrator manuell überprüft, und ggf. gelöscht oder zensiert. Durch diese zusätzliche manuelle Überprüfung wird sichergestellt, dass keine legitimen Inhalte fälschlicherweise entfernt werden.
Die KI Nudity Detection dient auch dazu, die Administratoren frühzeitig zu warnen, wenn unangemessene Inhalte hochgeladen werden. Dadurch können sie schnell handeln und unangemessene Inhalte entfernen, um die Sicherheit der Benutzer zu gewährleisten.
6love.ch setzt sich weiterhin dafür ein, eine sichere und vertrauenswürdige Plattform zu sein. Die Einführung der KI Nudity Detection in Kürze ist ein weiterer Schritt in diese Richtung und wird dazu beitragen, dass unangemessene Inhalte frühzeitig erkannt und entfernt werden.
Hier ein möglicher Output aus unseren Tests:
python3 manage.py nudity-collector
2023-03-16 21:40:38.089713170 [W:onnxruntime:, graph.cc:1231 Graph] Initializer block1_conv1_bn/keras_learning_phase:0 appears in graph inputs and will not be treated as constant value/weight. This may prevent some of the graph optimizations, like const folding. Move it out of graph inputs if there is no need to override it, by either re-generating the model with latest exporter/converter or with the tool onnxruntime/tools/python/remove_initializer_from_input.py.
{‚./media/1/gallery/915f29b7.jpg‘: {‚safe‘: 0.0032345489598810673, ‚unsafe‘: 0.9967654943466187}}
{‚./media/1/gallery/f60db03b.webp‘: {‚safe‘: 0.011141571216285229, ‚unsafe‘: 0.9888584613800049}}
{‚./media/1/gallery/9d5f50ae.jpg‘: {‚safe‘: 0.06001685932278633, ‚unsafe‘: 0.9399831295013428}}
{‚./media/1/gallery/369b90b0.jpg‘: {‚safe‘: 0.03389473259449005, ‚unsafe‘: 0.9661052823066711}}
{‚./media/1/gallery/2147dee9.webp‘: {‚safe‘: 0.011141571216285229, ‚unsafe‘: 0.9888584613800049}}
{‚./media/1/gallery/4bdbdd36.jpg‘: {‚safe‘: 0.3310714662075043, ‚unsafe‘: 0.6689285635948181}}
{‚./media/1/gallery/85c87185.png‘: {‚safe‘: 0.2539277672767639, ‚unsafe‘: 0.7460722327232361}}
{‚./media/1/gallery/d501b7df.jpeg‘: {‚safe‘: 0.061052106320858, ‚unsafe‘: 0.938947856426239}}
{‚./media/1/gallery/317cda41.jpg‘: {‚safe‘: 0.03389473259449005, ‚unsafe‘: 0.9661052823066711}}
{‚./media/1/gallery/d6682c84.jpg‘: {‚safe‘: 0.3310714662075043, ‚unsafe‘: 0.6689285635948181}}
{‚./media/1/gallery/56fb9125.jpg‘: {‚safe‘: 0.012887491844594479, ‚unsafe‘: 0.9871124625205994}}
{‚./media/1/gallery/231dc510.jpg‘: {‚safe‘: 0.022022927179932594, ‚unsafe‘: 0.9779770374298096}}
{‚./media/1/gallery/b962051e.webp‘: {‚safe‘: 0.004283202346414328, ‚unsafe‘: 0.9957167506217957}}
{‚./media/1/gallery/e2d7ea1f.webp‘: {‚safe‘: 0.00848350953310728, ‚unsafe‘: 0.9915164709091187}}
{‚./media/1/gallery/6fc0bf22.webp‘: {‚safe‘: 0.000562013650778681, ‚unsafe‘: 0.9994379878044128}}
{‚./media/1/gallery/7517c8d3.webp‘: {‚safe‘: 0.0074433013796806335, ‚unsafe‘: 0.9925566911697388}}
{‚./media/1/gallery/f1352d2d.jpg‘: {‚safe‘: 0.41388121247291565, ‚unsafe‘: 0.586118757724762}}
{‚./media/1/gallery/441b3b4e.jpg‘: {‚safe‘: 0.17780759930610657, ‚unsafe‘: 0.8221924304962158}}
{‚./media/1/gallery/9ec176e0.jpg‘: {‚unsafe‘: 0.05237458646297455, ‚safe‘: 0.947625458240509}}
{‚./media/1/gallery/2186c0d6.jpg‘: {‚safe‘: 0.47143930196762085, ‚unsafe‘: 0.5285606980323792}}
{‚./media/1/gallery/92484e2e.jpg‘: {‚unsafe‘: 0.3870362937450409, ‚safe‘: 0.6129636764526367}}
{‚./media/1/gallery/948365db.jpg‘: {‚safe‘: 0.033332567662000656, ‚unsafe‘: 0.9666674733161926}}
{‚./media/1/gallery/98ac14ca.jpg‘: {‚safe‘: 0.44423574209213257, ‚unsafe‘: 0.5557641983032227}}
{‚./media/1/gallery/3057c353.jpg‘: {‚safe‘: 0.017119448632001877, ‚unsafe‘: 0.9828805327415466}}
Theoretisch könnte man auch automatisch zensieren aber ich glaube wir belassen es mal 
Warum zeige ich euch anhand von diesem Beispiel:
Das ganze funktioniert übrigens auch mit Videos, ein Video besteht im grunde aus vielen Bildern die in einer bestimmten Geschwindigkeit wiedergegeben werden. Die KI analysiert einzigartige Frames und bewertet dann diese. hier ist ein Möglicher Output:
{‚metadata‘: {‚fps‘: 25.0, ‚video_length‘: 692, ‚video_path‘: ‚./media/1/gallery/a99e6480.mp4‘}, ‚preds‘: {1: {‚unsafe‘: 0.05812615, ‚safe‘: 0.94187385}, 61: {‚unsafe‘: 0.014659274, ‚safe‘: 0.9853408}, 73: {‚unsafe‘: 0.018199693, ‚safe‘: 0.9818003}, 85: {‚unsafe‘: 0.0062266663, ‚safe‘: 0.9937734}, 109: {‚unsafe‘: 0.04121631, ‚safe‘: 0.95878375}, 121: {‚unsafe‘: 0.35242996, ‚safe‘: 0.64757}, 133: {‚unsafe‘: 0.008042271, ‚safe‘: 0.9919578}, 169: {‚unsafe‘: 0.089118555, ‚safe‘: 0.91088146}, 217: {‚unsafe‘: 0.01774992, ‚safe‘: 0.98225003}, 229: {‚unsafe‘: 0.019869331, ‚safe‘: 0.9801307}, 241: {‚unsafe‘: 0.040311094, ‚safe‘: 0.9596889}, 277: {‚unsafe‘: 0.007890342, ‚safe‘: 0.9921097}, 289: {‚unsafe‘: 0.08887078, ‚safe‘: 0.9111292}, 301: {‚unsafe‘: 0.006475679, ‚safe‘: 0.9935243}, 313: {‚unsafe‘: 0.4403199, ‚safe‘: 0.55968016}, 349: {‚unsafe‘: 0.091577485, ‚safe‘: 0.9084225}, 397: {‚unsafe‘: 0.018706918, ‚safe‘: 0.981293}, 421: {‚unsafe‘: 0.04302806, ‚safe‘: 0.9569719}, 433: {‚unsafe‘: 0.0051842555, ‚safe‘: 0.99481577}, 457: {‚unsafe‘: 0.039973218, ‚safe‘: 0.96002674}, 481: {‚unsafe‘: 0.0112011405, ‚safe‘: 0.9887989}, 541: {‚unsafe‘: 0.057095766, ‚safe‘: 0.94290423}, 577: {‚unsafe‘: 0.1897549, ‚safe‘: 0.81024504}, 589: {‚unsafe‘: 0.10796753, ‚safe‘: 0.89203244}, 649: {‚unsafe‘: 0.008887788, ‚safe‘: 0.9911122}, 661: {‚unsafe‘: 0.08899805, ‚safe‘: 0.911002}, 673: {‚unsafe‘: 0.029423136, ‚safe‘: 0.9705768}, 685: {‚unsafe‘: 0.14271088, ‚safe‘: 0.8572891}}}
{‚metadata‘: {‚fps‘: 24.0, ‚video_length‘: 535, ‚video_path‘: ‚./media/1/gallery/0a425839.mp4‘}, ‚preds‘: {1: {‚unsafe‘: 0.23331922, ‚safe‘: 0.7666808}, 13: {‚unsafe‘: 0.12190466, ‚safe‘: 0.8780953}, 25: {‚unsafe‘: 0.29291722, ‚safe‘: 0.70708275}, 37: {‚unsafe‘: 0.16863243, ‚safe‘: 0.8313676}, 49: {‚safe‘: 0.29184917, ‚unsafe‘: 0.7081508}, 61: {‚unsafe‘: 0.21336433, ‚safe‘: 0.78663564}, 73: {‚safe‘: 0.06482349, ‚unsafe‘: 0.9351765}, 85: {‚safe‘: 0.3868439, ‚unsafe‘: 0.6131561}, 97: {‚safe‘: 0.14121242, ‚unsafe‘: 0.8587876}, 121: {‚safe‘: 0.269276, ‚unsafe‘: 0.73072404}, 133: {‚unsafe‘: 0.49276048, ‚safe‘: 0.5072395}, 145: {‚unsafe‘: 0.43010437, ‚safe‘: 0.5698956}, 157: {‚safe‘: 0.30459356, ‚unsafe‘: 0.69540644}, 181: {‚safe‘: 0.12105453, ‚unsafe‘: 0.87894547}, 193: {‚safe‘: 0.2036914, ‚unsafe‘: 0.79630864}, 205: {‚safe‘: 0.13873969, ‚unsafe‘: 0.8612603}, 217: {‚unsafe‘: 0.43764728, ‚safe‘: 0.56235266}, 229: {‚safe‘: 0.35337853, ‚unsafe‘: 0.64662147}, 241: {‚safe‘: 0.075767554, ‚unsafe‘: 0.9242324}, 253: {‚safe‘: 0.36991256, ‚unsafe‘: 0.6300875}, 265: {‚unsafe‘: 0.0037496344, ‚safe‘: 0.99625033}, 277: {‚safe‘: 0.22860968, ‚unsafe‘: 0.7713903}, 289: {‚safe‘: 0.12403607, ‚unsafe‘: 0.8759639}, 301: {‚safe‘: 0.022174114, ‚unsafe‘: 0.9778259}, 313: {‚unsafe‘: 0.24232411, ‚safe‘: 0.7576759}, 325: {‚safe‘: 0.33423775, ‚unsafe‘: 0.66576225}, 337: {‚safe‘: 0.07495244, ‚unsafe‘: 0.9250476}, 349: {‚safe‘: 0.06136533, ‚unsafe‘: 0.93863463}, 361: {‚safe‘: 0.21716684, ‚unsafe‘: 0.7828332}, 373: {‚safe‘: 0.27172902, ‚unsafe‘: 0.72827095}, 385: {‚unsafe‘: 0.40353596, ‚safe‘: 0.59646404}, 397: {‚safe‘: 0.20597331, ‚unsafe‘: 0.79402673}, 409: {‚unsafe‘: 0.2794124, ‚safe‘: 0.7205876}, 421: {‚unsafe‘: 0.28671303, ‚safe‘: 0.71328694}, 433: {‚safe‘: 0.26565546, ‚unsafe‘: 0.7343445}, 445: {‚safe‘: 0.044045407, ‚unsafe‘: 0.9559546}, 457: {‚safe‘: 0.047270734, ‚unsafe‘: 0.9527293}, 469: {‚safe‘: 0.30125368, ‚unsafe‘: 0.6987464}, 481: {‚safe‘: 0.18188803, ‚unsafe‘: 0.818112}, 493: {‚safe‘: 0.1370054, ‚unsafe‘: 0.8629946}, 505: {‚safe‘: 0.13752262, ‚unsafe‘: 0.8624773}, 517: {‚safe‘: 0.11627763, ‚unsafe‘: 0.88372236}, 529: {‚safe‘: 0.2779056, ‚unsafe‘: 0.72209436}}}
PS: Diese Bilder und Videos sind urheberrechtlich geschützt. Wir haben die meisten via canva.com lizenziert und einige sind wenige sind via Creative Commons Lizenzen geregelt. Einige wenige testfiles sind von shutterstock und videohive. (sind watermarked).