it-swarm.com.de

Verwalten von Bildern auf einer offenen Wiki-Plattform

Ich entwickle eine Wiki-Seite mit MediaWiki und es gibt einige Möglichkeiten, Bilder in Wiki-Seiten einzufügen, z. B. sie auf die Website hochzuladen und sie auf externe Websites hochzuladen, wodurch möglicherweise andere gebannt und aufgefordert werden, ein Bild zu platzieren.

Sicherlich ist es schwierig, Bilder zu verwalten, da eines Tages möglicherweise ein vulgäres Bild hochgeladen wird und viele Leute es dann sehen. Wie kann ich sicherstellen, dass vulgäre Bilder nicht durchkommen und Administratoren nach der Überwachung keine lebenslangen Narben bekommen?

1
Oliver K

Das Filtern nach vulgären Bildern ist eine der schwierigsten Aufgaben und stellt einige sehr komplizierte Anforderungen an die Bildanalyse. Hier geht es darum, dass das, was ein vulgäres Bild ausmacht, sehr subjektiv und schwer (wenn auch nicht unmöglich) zu erkennen und herauszufiltern ist.

Es gibt eine Vielzahl von Methoden, die online verwendet werden, und ich werde hier einige der gebräuchlichsten Methoden behandeln ...

  • Link zu jedem Bild melden
    In dieser Situation gehen Sie davon aus, dass die überwiegende Mehrheit der geladenen Bilder den Anforderungen gegen Vulgarität entspricht. Grundsätzlich befindet sich unter jedem einzelnen Bild (möglicherweise direkt neben der Beschriftung) ein Berichtslink, der beim Klicken das Bild für eine manuelle Moderatorintervention kennzeichnet. Das Problem hierbei ist, dass die Bilder damit beginnen können und im Grunde genommen allen Bildern vertrauen, sofern nichts anderes angegeben ist. Wenn ein Bericht erstellt wird, muss der Moderator dennoch eingreifen.
  • Bilder außer von vertrauenswürdigen Benutzern blockieren
    In dieser Situation sagen Sie, dass der überwiegenden Mehrheit der Benutzer nicht sofort vertraut werden kann, sondern dass sie in der Community eine gewisse Reputation aufbauen müssen, bevor sie Bilder veröffentlichen dürfen (denken Sie an etwas Ähnliches wie das SE Reputationsmodell).
  • Führen Sie auf jedem Bild einen Scan vor oder nach dem Veröffentlichen durch
    Hier wird es immer komplizierter und die Kosten fangen an, sich einzumischen. Grundsätzlich senden Sie das Bild entweder vor der Veröffentlichung im Wiki oder nach der Veröffentlichung an einen Online-Bildersuchdienst (z. B. Google Cloud Vision API oder WebPurify Image Moderation ). Diese Dienste analysieren dann das Bild und geben die Analyse auf die Wahrscheinlichkeit zurück, dass das Bild vulgäre Elemente enthält oder nicht. Sie können falsch-positive Ergebnisse liefern, da die Bildanalyse nicht perfekt ist, wie jedes andere maschinelle Lernen, das Fehler macht, und es entstehen hohe Kosten, wenn viele Bilder täglich gescannt werden müssen, aber im Großen und Ganzen wäre die einzige Möglichkeit, sich vor vulgären Bildern zu schützen. Ich habe in der Vergangenheit eine WebPurify-Integration für ein Imageboard durchgeführt, das sich dazu entschlossen hat, jedes empfangene Bild zu scannen, und obwohl es großartige Arbeit geleistet hat, alle vulgären Bilder zu blockieren, hat es dennoch hohe Kosten verursacht, obwohl sie Tausende von Bildern pro Monat scannen Dies ist eine unwahrscheinliche Belastung für ein Wiki, es sei denn, es ist ein extrem umfangreiches Board-Wiki (wie Wikipedia selbst).

Sie stoßen möglicherweise auch auf andere rechtliche Probleme, da in einigen Ländern Gesetze und Vorschriften zum Umgang mit illegalen Inhalten im Internet gelten und viele Hosting-Anbieter ähnliche Bestimmungen in ihren Nutzungsbedingungen haben, die möglicherweise die Mindestverpflichtung umreißen von Websites zum Schutz vor solchen vulgären Medien, die über die von mir bereitgestellte Liste hinausgehen, und Sie müssten daher in Ihrer eigenen Gerichtsbarkeit und bei Ihrem Hosting-Anbieter prüfen, ob zusätzliche Anforderungen bestehen.

Als Randnotiz kann im Grunde jede oben aufgeführte Methode funktionieren, unabhängig davon, ob die Bilder auf Ihren Server hochgeladen oder auf einen anderen Server geladen und mit diesem verlinkt wurden. Der Vorteil der Verwendung eines anderen Servers und der Verknüpfung mit diesem Server (z. B. Imgur) besteht darin, dass die Bandbreite für die Übermittlung der Bilder an den Browser nicht von Ihrer Website beansprucht wird. Dadurch wird die Bandbreite reduziert und die Ladezeit der Website erhöht, da das Bild von der anderen Website heruntergeladen werden kann Domain parallel zu den Inhalten von Ihrem eigenen Server (die meisten Browser unterstützen nur zwei gleichzeitige Downloads von einem einzigen Server auf einmal) und tragen auch dazu bei, die Festplattenbelegung auf Ihrem Server zu reduzieren, da Sie nicht viele Bilder speichern müssen auf Ihrem Server. Unabhängig davon, ob Sie die Bilder selbst hosten oder auf einem Upload-Dienst eines Drittanbieters haben, können die Benutzer, die mit den Bildmoderationsdiensten online verknüpft sind, im Allgemeinen mit ihnen arbeiten. Einige erfordern nur einen Link zum Image selbst, der über eine der beiden Methoden bereitgestellt werden kann, andere erfordern das Hochladen der Datei selbst. In diesem Fall benötigen Sie ein Back-End-Worker-Skript, das jedes Mal ausgeführt wird, wenn ein Image geladen wird, das ein sendet Kopie des Bildes an den Moderationsdienst, und andere (wie Google) benötigen nur die Base64-Version des Bildes, die Sie erhalten können, indem Sie das Bild auf Ihrem Server in Base64 konvertieren oder das Bild vom Remote-Hosting-Dienst auf Ihren Server herunterladen den temporären Ordner des Servers und holen Sie sich den base64, bevor Sie ihn wieder löschen.

1

Wenn Sie Leuten erlauben, Bilder hochzuladen, können Sie sie nicht davon abhalten, Bilder hochzuladen, die Sie für vulgär halten. Wenn Ihre Administratoren wahrscheinlich lebenslange Narben haben, ändern Sie entweder Ihr Modell, sodass keine Bilder vorhanden sind, oder ändern Sie Ihre Administratoren.

Wenn Sie festlegen, dass sich Personen registrieren müssen, bevor sie Bilder hochladen können, können Sie alle Personen sperren, die inakzeptable Bilder hochladen.

Gehen Sie dann zum Strand und versuchen Sie, die Flut zu stoppen.

0
Steve

Wenn Sie Bilder zulassen möchten, keine vulgären Bilder zulassen und sich nicht auf menschliche Kontrolle verlassen möchten, ist Ihre einzige Chance ein maschinell lernbasierter Filter wie Google Cloud API =. In der Praxis ist es ziemlich unwahrscheinlich, dass Leute ihre Zeit damit verbringen, Angriffsbilder in Ihr Wiki hochzuladen, es sei denn, es ist sehr umfangreich oder hat mit einem umstrittenen Thema zu tun.

0
Tgr