Verdummung an der Oberfläche

Heute widmet das FAZ Feuilleton sich ja mal wieder dem Internet und der Herr Rieger vom CCC darf die Hälfte der ersten Seite gestalten (Artikel nur für Abonnenten zugänglich). Ist ja ok. Gestern hat die CCC-Sprecherin auch die erste Feuilleton-Seite gehabt und eine kleine Hacker-Ethik Vorlesung halten dürfen. Auch ok.

In dem heutigen Artikel geht es um die Verkehrsdatenanalyse und eine Darstellung der Analyse- und Auswertungsmöglichkeiten, die sich in Zusammenhang mit Vorratsdatenspeicherung ergeben. Rieger spannt dabei den Bogen von militärischen Abhörmethoden aus dem ersten Weltkrieg bis hin zu heutigen Analysen des Kommunikationsverhaltens durch Polizeibehörden.

Zwei Dinge gehen mir dabei zunehmend auf die Nerven……zum einen dieses leichte Raunen das in letzter Zeit immer einhergeht, wenn irgendwo von “Algorithmen” die Rede ist, und den unfassbaren Möglichkeiten der Geheimdienste und Aufsichtsbehörden. Einmal nervt das, weil es eine notorische und häufig natürlich gewollte Überdeutung des Möglichen ist, nicht selten eine fast schon tumbe Faszination, die natürlich im FAZ-Feuilleton mit in Falten gelegter mahnender Stin daherkommen muss. Letztlich glaube ich, dass da einfach viel Geilheit auf die Macht der Maschinen dahintersteckt, also ein Motiv, das zahlreiche Scifi-Plots getrieben hat und die Faszination an Matrix und Terminator gleichermassen ausmacht. Eigentlich sind wir fasziniert von den Möglichkeiten der Maschinen und irgendwo heimlich würden wir uns wünschen, dass sie sehr viel Macht hätten. Intelligent wären usw.* Ich kann mich dieser Faszination selbst nicht ganz entziehen, aber einer sachlichen Beurteilung der Bedrohungslage ist diese Haltung nicht förderlich. Wahrscheinlich macht es dieses SciFi-Geschwurbel deshalb regelmässig in die Feuilletons, weil dort verschüchterte Redakteure sitzen die denken ihr Job stünde automatisch auf der Abschussliste wenn sie nicht einmal wöchtenlich twitter oder das Ipad in einem Beitrag erwähnen.

Und damit komme ich zum zweiten Punkt der mich an diesen Debatten nervt. Diese letztlich unreflektierten Technik-Gläubigkeit führt nämlich meiner Ansicht nach zu masslos überinterpretierten Schlussfolgerungen und Szenarien. Erinnert mich ein bisschen an die immer gern zitierte Hirnforschung wo es auch als Entschlüsselung des Geistes gefeiert wird, dass ein Hirnareal in einem Scanner mehr aufleuchtet als das andere.

Es wird also gern herbeigeredet, dass wir mit unseren Datenspuren jederzeit entschlüsselbar, vorhersagbar, steuerbar sind. Das halte ich für groben Unsinn.

Und zwar weniger, weil es technisch unplausibel erscheint, nein. Mir geht es um die tiefere Bedeutung der Daten. Also ähnlich wie in der Hirnforschung – kann man anhand meiner Datenspuren wirklich herausfinden was ich mache, von wem ich beeinflusst werden und was ich denke?

Die Antwort ist nein. Und zwar ganz einfach, weil es ungleich komplizierter ist wie wir leben, wie und mit wem wir kommunizieren und wie wir uns beeinflussen lassen. Hinter den CCC-Feuilleton Theorien steckt nämlich letztlich ein relativ primitives mechanistisches Weltbild – was für Computerfreak nicht verwunderlich sein sollte. Fürs FAZ-Feuilleton aber schon.

Also am Beispiel: wie oft und mit wem ich in den letzten 6 Monaten telefoniert habe soll Aufschluss bieten über mein Leben. Nur mal eine Frage: gibt es wirklich eine lineare Beziehung von Häufigkeit der Telefonate zu Relevanz der jeweiligen Person? Dann müsste ich mit dem Würfelfunk Berlin verheiratet sein. Die Analyse meiner Wege bringt Geheimnisse zu Tage? Also wo ich wohne, wo ich arbeite und dass ich drumherum ab und zu ein Bier trinken gehe? Das ist also die Macht der neuen Daten, Respekt. Telefonbuch hätte auch gereicht.

Wenn man dagegen herausfinden wollte was ich denke, welche Überzeugungen ich habe und nach welchen Kriterien ich meine Entscheidungen treffe nützt die ganze Verkehrsdatenanalyse rein gar nichts, null. Und selbst wenn man meine tweets von einer Farm von Hammer-Algorithmen parsen lassen würde wäre das Ding ziemlich sicher zu blöd auch nur annähernd Ironie, Selbstdarstellung und Bekenntnis auseinanderzuhalten.

Algorithmen sind viel dummer als die Computerheinis und die verschüchterten Feuilletonisten uns weismachen wollen. Und liebe FAZ, ein Ausflug zum CCC ab und zu mag ja ganz nett sein – aber generell ist es immer noch ein lohnenswertes Unterfangen sich der tatsächlichen Komplexität von Kultur, Bewusstsein und Theorie zu widmen. Das werden die Algorithmen uns so schnell leider nicht abnehmen.

Was mich an diesen Beiträgen zudem ärgert, ist die gut verdeckte Denkfaulheit die dahintersteckt, das selbtverliebte Kratzen an der Oberfläche und powerpointeske Aneinanderreihen von Technikphrasen. Das scheint die digitale Kultur leider sehr zu fördern, aber es gab die Powerpoint-Theoretiker immer schon, die Postmans und Konsorten.

Die Sache ist aber zu wichtig, als dass wir solche Debatten den Oberflächentheoretikern überlassen dürften. Wir brauchen tiefere Analysen zu Bedrohungen und Chancen der Datengesellschaft. Zu den faszinierenden Eigenschaften von Maschinen aber auch zu Ihrer lachhaften Dummheit. Zum Kontrollverlust. Zu den politischen Implikationen der Algorithmen und der Frage wie eine Gesellschaft aussehen könnte, in der Bürger die Datenhoheit übernommen haben und nicht Sicherheitsbehörden. Wird alles ein bisschen komplizierter und weniger schemenhaft dann, klar. Aber alles andere ist gefährlicher Oberflächenquatsch.

*dahinter steckt übrigens vermutlich auch eine Ausbruchsphantasie, eine Hoffnung auf eine bessere Welt – aber das führte hier jetzt zu weit

Category: FAZ & Co | Tags: , , , , , 22 comments »

22 Responses to “Verdummung an der Oberfläche”

  1. Thomas

    Ich kann deine Kritik nicht nachvollziehen. Es geht bei den Warnungen durch den CCC doch vor allem darum, dass diese Daten überhaupt gesammelt und dadurch dann automatisiert gerastert werden können. Da die Daten möglicherweise unscharf und die Algorithmen für die Auswertung schlecht oder fehlerhaft sind, ist die Gefahr einfach zu groß, dass die Schlüsse daraus falsch und unbescholtene Menschen in die Mühlen von Ermittlungen geraten. Daher sollten diese Daten gar nicht erst anfallen, dann kann man sie auch nicht falsch interpretieren.
    Nächster Punkt der CCC-Kritik betrifft die Änderung des natürlichen Verhaltens der Menschen. Wenn jeder weiss, dass seine Bewegungsdaten im Rahmen der Vorratsdatenspeicherung gesichert werden, dann bewirkt das im Kopf bereits eine Anpassung des Verhaltens. Man überlegt sich zweimal, ob man diese oder jene Web-Seite aufruft, oder den lybischen Studenten von nebenan mal anruft, um mit ihm zu plaudern.

  2. Enno

    Natürlich ist die Aussagekraft der Daten äußerst begrenzt. Das hilft uns aber nicht weiter, wenn jemand, der Datenmissbrauch betreiben will, *trotzdem* an ihre Aussagekraft glaubt. Die Nazis waren im Rassenwahn und haben nach absurden Kriterien Juden herausgefiltert. Ich will nicht gleich den nächsten Holocaust herbeireden, habe aber das Gefühl, dass die Verlockung für bestimmte Politiker und auch Firmen, nach anderen absurden Kriterien einem anderen Wahn hinterherzufiltern, recht hoch ist. Selbst das wäre nicht so schlimm, wenn ich nicht anschließend darlegen müsste, warum die Kriterien und vielleicht meine Person als Ergebnis der Filterung absurd sind. Das ist nicht nur eine Beweislastumkehr sondern greift tief in ideologische und weltanschauliche Fragen.

  3. Lars Fischer

    Eine ähnliche Stoßrichtung hatte schon wor einer ganzen Weile dieser Artikel aus Spektrum der Wissenschaft: Big Brother mit Sehschwäche
    http://www.spektrum.de/artikel/1005455&_z=798888
    Der Datenkrake ist längst nicht so allmächtig wie immer unterstellt wird.

  4. Stephan

    Hätte das vielleicht deutlicher sagen sollen – ich halte überhaupt gar nichts von der Vorratsdatenspeicherung und finde alle Initiativen dagegen unterstützenswert.

    Ich finde aber, man kann gegen diese Art der vorsorglichen Schnüffelei des Staates sein ohne direkt eine Morpheus-Nummer abzuziehen und Ängste von totaler Algorithmen-Kontrollierbarkeit zu verbreiten. Darum ging es mir.

  5. Zhuk -Der Klaus-

    Der Artikel scheint mir letztendlich doch eher von einer Denkverweigerungshaltung zu zeugen. Denkwege anzutäuschen und sie dann konsequent zu ignorieren – mag ja IN sein, aber gut ist dennoch anders.

  6. Schugo

    Algorithmen blah…

    Deine Daten + Suchfeld und AND OR reicht…

  7. Ein Leser

    Du machst meiner Meinung nach drei gravierende Denkfehler:

    1. Es ist eine unbestreitbare Tatsache, daß Software derzeit nicht in der Lage ist und wohl auch nie in der Lage sein wird an Hand einer vorliegenden Datenbasis automatisiert intelligente Schlüsse zu allgemeinen Fragstellungen zu ziehen. Dies schließt aber nicht aus, daß es in Abhängigkeit vom vorliegenden Datenbestand nicht sehr eng begrenzte und bezüglich der gewählten Fragestellung relevante Teilprobleme gibt, die einer Automatisierung sehr wohl zugänglich sind. Von diesen Problemklassen lebt die Informatik. Viele der in der Überwachungstechnik relevanten Fragestellungen erfordern darüber hinaus weniger Intuition oder Intelligenz sondern enormen Fleiß die angefallenen Datenberge nach von Menschen gewählten Kriterien zu durchsuchen und die Suchergebnisse geeignet zu visualisieren. Das können Computer hervorragend und Menschen ob der schieren Menge der Daten ohne Hilfe von Rechnern nur sehr eingeschränkt

    2. Du scheinst davon auszugehen, daß die im Rahmen der Vorratsdatenspeicherung anfallenden Daten ausschließlich von “dummen” Programmen automatisiert ausgewertet werden. Glaub mir, der Polizist oder Geheimdienstler in dessen Fadenkreuz du wegen was auch immer geraten bist, wird wohl an Hand der automatisierten Auswertung deiner Verbindungsdaten kaum den Schluß ziehen, daß du eine heiße Liebesaffäre mit der Taxizentrale hast.

    3. Niemand wird an die Auswertung der Daten aus der Vorratsdatenspeicherung den Anspruch stellen nur dadurch herausfinden zu wollen welches deine tiefsten Überzeugungen sind und wen du lieb hast. Es interessiert vor allen Dingen erst einmal mit wem du wann wo kommunizierst. Das legt zumindest dein berufliches und privates Beziehungsnetzwerk offen und bietet Ansätze für weitere Recherchen auch in anderen Datentöpfen. Und selbstverständlich wirst du mit den Menschen, die dir wichtig sind tendenziell intensiver kommunizieren als mit anderen. Dies wird auch nicht dadurch negiert, daß die umgekehrte Implikationsrichtung (viel Kommunikation -> für mich wichtiger Mensch) nicht immer gilt.

    Natürlich ist es absurd zu behaupten, “dass wir mit unseren Datenspuren jederzeit entschlüsselbar, vorhersagbar, steuerbar sind”. Genauso absurd ist es aber zu behaupten, daß die Datenspuren, welche wir hinterlassen nichts über uns aussagen, was wir vielleicht lieber nicht preisgeben wollen. Geradzeu fahrlässig ist meines Erachtens das Abstreiten einer neuen Qualität der Möglichkeiten der Überwachung, welche sich durch Vernetzung, moderne Rechner und moderne Software ergeben. Heute findet ein Sachbearbeiter bei den relevanten “Bedarfsträgern” am Rechner in 30 Minuten mehr über mich heraus, als die Stasi mit ihrem Spitzelapparat in einer Woche.

    Ich kann mich des Eindrucks nicht erwehren, daß deine Einwürfe gegen die Computerfreaks mit dem primitiven, mechanistischen und von SF-Phantasien durchdrungenen Weltbild nicht reiflicher Überlegung sondern dem Beißreflex des durchschnittlichen FAZ Feuilletonlesers gegen alles Technische entspringen.

    Ein Leser

  8. Che

    Es ist mir unbegreiflich wie man zu diesem Thema so viel unrelevanten Schwachfug schreiben kann ohne die einfachsten Relationen zu begreifen (oder so zu tun als ob es keine gäbe?).
    Der Herr Holadrio sollte sich doch lieber mal unvoreingenommen darüber Informieren und das nicht bei seinen rechtskonservativen Freunden der ehemaligen schlagenden Verbindung.

  9. Stephan

    Schon lustig, dass offenbar trotz der unfassbaren technischen Möglichkeiten schnell alles über einen rauszufinden mir hier Technikfeindlichkeit unterstellt wird.

    Darin illustriert Ihr sehr schön nochmal “in vivo” (Achtung Feuilletonsprache) was mir so auf die Nerven geht. Selbstüberhebliches, machtlüsternes Allmachtsgehabe bei gleichzeitigem Basalversagen. Und das ist auch der Grund, warum ich mir wenig Sorgen vor dem Überwachungsstaat mache. Denn wenn die BKA-Futzis auf Ihrem Abteilungscomputer mit Windows 3.11 nicht weiterkommen, würde ihnen ja bestimmt schnell einer der Fundamental-Techies zur Hilfe eilen (wäre ja nur ein Job). Und da würde ich mir beim Stand der Diskussion hier und den realen “Fähigkeiten” die im Spiel sind immer noch wenig Sorgen machen, dass irgendwas herausgefunden wird was über Triviales hinausgeht.

  10. privacy – habt euch nicht so, oder wie? « qrios

    […] steht der CCC mit Frank Rieger und Constanze Kurz und auf der anderen Seite Blogger wie mspro und holadio. Ihr Schlachtfeld ist die FAZ. Gekämpft wird um die Hoheit über den Datenluftraum. Es sah nach […]

  11. Ein Leser

    “Schon lustig, dass offenbar trotz der unfassbaren technischen Möglichkeiten schnell alles über einen rauszufinden mir hier Technikfeindlichkeit unterstellt wird.”

    Ich habe sehr wohl gelesen, daß du in der Onlinewerbung tätig bist, aber meiner Einschätzung nach tummelst du dich da eher in der administrativen oder der Marketing-Ecke, denn du scheinst die “Computerfreaks” mit ihrem primitiven mechanistischen Weltbild (wie du siehst hat mich das ein bißchen geärgert) ja schon durchschaut zu haben und nicht sonderlich zu schätzen. Ich hoffe du läßt deine evtl. vorhandenen Technikerkollegen oder gar Mitarbeiter diese Einschätzung nicht zu deutlich spüren. Das kommt nicht gut …. .

    “Darin illustriert Ihr”

    Wer ist ihr? Hier bin nur ich. Meine echte (!) E-Mail Adresse hast du. Und nein, ich bin kein Teil einer vom CCC gesteuerten Aktion. Ich bin auf dein Blog über den dir schon bekannten Heise-Artikel gestolpert und da du eine Kommentarfunktion in deinem Blog anbietest, habe ich diese genutzt. Was den “Beißreflex-Absatz” in meinem Kommentar angeht, habe ich mich nach dem Abschicken gefragt ob das zielführend war, aber ich habe mir dann gedacht, wenn einer austeilen will, dann muß er auch einstecken können.

    “sehr schön nochmal “in vivo” (Achtung Feuilletonsprache)”

    Ja, zeig dem ungeblideten Computerfreak wo der Bildungshammer hängt, “in vivo” muß er bestimmt nachgoogeln!!!

    “was mir so auf die Nerven geht. Selbstüberhebliches, machtlüsternes Allmachtsgehabe bei gleichzeitigem Basalversagen.”

    Komischerweise ging mir beim Verfassen meines Kommentars ein sehr ähnlicher Gedankengang durch den Kopf, allerdings mit anderen Addressaten.

    Um des lieben Friedens Willen. Wenn dich meine beiden Kommentare aufregen, dann lösche sie. Es ist dein Blog. Wenn du dich von mir persönlich angegriffen fühlst, dann nehme ich den letzten Absatz meines ersten Kommentars zurück. Der Rest war ziemlich sachlich.

    Ein Leser

  12. Ein Leser

    OK, das Basalversagen muß ich in diesem Fall akzeptieren.

    http://www.nugg.ad/

    So weh es tut.

    Ein Leser

  13. Stephan

    Hallo “ein Leser”. Ist schon ok, ich kann auch einstecken. Und solche Debatten müssen auch mal kontrovers geführt werden.
    Allerdings habe ich ein paar Sachen da oben eigentlich differenzierter dargestellt, z.B. meine eigene Leidenschaft für Technik usw. – insofern mache ich mir um meine Kollegen in dem Bereich keine Sorgen.
    Und ich muss es nochmal wiederholen: Ich habe keine Probleme mit Technik oder Computerfuzzis (bin selbst einer), ich finde auch den CCC toll und vieles was die machen absolut ehrenhaft und richtig (z.B. den Daten-Brief – habe ich hier erst vor ein paar Tagen öffentlich unterstützt http://www.zeit.de/digital/datenschutz/2010-02/noller-nugg-targeting?page=3). Aber mir geht schlicht die sachlich nicht angemessene, populistische Überinterpretation gewisser Dinge auf die Nerven. In diesem Fall also in der Frage was man mit Algorithmen alles heute schon tun kann und wie vorhersagbar unser Verhalten längst ist. Und ich weiss durchaus worüber ich spreche wenn ich sage dass die Realität im Data-Mining, den Sicherheitsbehörden usw. einfach eine andere ist. Genausowenig wie man die Gefahren einer Vorratsdatenspeicherung klein reden sollte macht es Sinn Drohgespinste aufzubauschen nur weil es sich dann besser liest.

  14. Falko

    Ich glaube ich verstehe Deine Argumente, aber sehe das auch nicht so gelassen wie Du. Auf Grund Deiner Erfahrung im Umgang mit den Algortihmen und Daten hast Du sicher einen besseren Einblick als ich, was da so im Moment möglich ist.
    Aber der Vergleich mit den Hirn-Scans hängt doch etwas finde ich. Einen solchen Scan kann man (zumindest im Moment) noch nicht unbemerkt durchführen. Ich kann aber nicht kontrollieren, wie viele meiner Daten der Webseitenbetreiber speichert und an wen er diese weitergibt. Und die “der Leser” schon richtig sagte, geht es auch nicht darum ob es z.Z. technisch möglich ist damit unser Verhalten vorhersagbar zu machen.
    Konkrete Fragestellungen lassen sich mit Hilfe von geballter Rechenpower durchaus beantworten. Und es besteht absolut kein Grund irgendjemandem zu vertrauen, daß die gesammelten Daten bei ihm sicher sind. Fast jeden Tag gibt es Schlagzeilen darüber, daß sich irgendeine Firma oder Behörde hat Daten klauen lassen, oder schlimmer noch, diese sogar illegal verkauft hat.

  15. Stephan

    @Falko – das Beispiel mit dem Hirnscan hast Du falsch verstanden (und ein paar andere vermutlich auch). Ich habe es deswegen verwendet, weil die sog. “Hirnforschung” häufig ebenso zu populistischen Überintpretationen ihrer Ergebnisse neigt und die Presse ähnlich geil darauf anspringt. Tatsächlich ist es aber so, dass nahezu kein zentraler Prozess bzgl. Bewusstsein, Gefühlen, Entscheidungsbildung etc. auch nur annähernd bisher “entschlüsselt” wurde. Die Forscher (und ein paar Laien) starren halt fasziniert auf die Scans und denken sie würden da irgendwas sehen. Aber man ist meilenweit davon entfernt das auch nur irgendwie _erklären_ zu können (abgesehen von ein bisschen Steuerung der Hand o.ä.).

    Ähnlich überinterpretiert finde ich manche der Rieger-Thesen (und anderer Autoren in dem Umfeld). Wenn es darum geht zu verstehen wie ein Mensch funktioniert, was er fühlt, was er denkt, wie er entscheidet usw. liefern “die Algorithmen” einfach fast überhaupt keine Erkenntnisse, egal wie viele Daten man ihnen zum extrahieren vorlegt.
    So sind z.B. alle Versuche bisher glamourös gescheitert Emotionen maschinell zu lesen (also als Erweiterung der Gesichtserkennung).

    Fazit: die wirklich schützenswerten Dinge sind viel komplizierter und schwieriger aus Daten abzulesen als man uns weismachen will. Ich will damit nicht sagen, dass es prinzipiell nicht geht, nur dass wir viieeel weiter davon entfernt sind als es in den Artikeln gerne nahegelegt wird.

  16. Falko

    Mmmmh bzgl. der Hirnforschung hast Du natürlich recht. Aber ich fasse “schützenswerte Daten” weiter als nur meine Gedanken und Gefühle usw. Ich glaube sehr wohl, daß man, zwar nicht allein mit der Hilfe von Algorithmen, aber mit der Hilfe gesammelter Daten und gesundem Menschenverstand sehr gute Vorhersagen machen kann wenn man will. Jetzt stelle man sich noch vor, daß einige wirre Lobbyisten und Politiker für bestimmte Bereiche schon eine Umkehrung der Beweislast fordern. Da komm dann mal wieder raus, wenn Du nicht weiß, wer wieviel Daten über Dich gespeichert hat.

    Und bzgl. Algorithmen gibt es durchaus Fortschritte finde ich. Wenn ich richtig informiert bin, ist es für Audiodaten sehr genau möglich einzelne Personen anhand ihrer Stimme zu identifizieren (man denke an diese Services die ein Musikstück anhand kurzer selbst gesungener Sequenzen identifizieren können).

    Aber bzgl. der Vorratsdatenspeicherung sind wir uns ja eh einig glaube ich.

  17. qrios

    Immer wenn ich z.B. vor Studenten demonstriere was man mit Trackingdaten anstellen kann, gibt es ein großes Ahh und Ohh. Wenn ich den Leuten dann noch zeige, wie viele und welche Daten bei einer typischen Surfsession wohin fliessen, sehe ich in geschockte Gesichter.

    Der CCC leistet hier also nichts weiter als Aufklärungsarbeit, die den Eingeweihten vielleicht manchmal zu populistisch ist. Das sind gute AIDS-Kampagnen auch. Dringend notwendig sind beide.

    Und genauso wie beim HI-Virus gibt es sicher vollkommen abstruse Vorstellungen in der Öffentlichkeit, was ein Algorithmus alles leisten kann. Aber der CCC ist nicht als IT-Dozent angetreten. Und das momentane Problem ist eben nicht, dass viele Leute draussen rumlaufen und falsche Vorstellungen über Algorithmen haben sondern vollkommen ungeschützten Internetverkehr betreiben.

    Ausserdem befinden wir uns in Bezug auf Computer-Algorithmen grade mal in der Eisenzeit. Die Daten aber, die wir heute irgendwo eingeben oder hinterlassen werden auch in 20 Jahren noch irgendwo rumliegen und verwendet werden.

  18. Enno

    Dazu passt auch dier FAZ-Artikel von Frank Rieger (CCC) http://www.faz.net/s/Rub475F682E3FC24868A8A5276D4FB916D7/Doc~E2DB28F0A1D814E61BD8AE675DE76A85F~ATpl~Ecommon~Scontent.html?rss_aktuell

  19. Susanne

    Guggst Du vielleicht mal

    http://www.sciencemag.org/cgi/content/abstract/327/5968/1018

  20. Stephan

    Susanne – klickste vielleicht mal link und liest dann: “Subscribe/Join AAAS or Buy Access to This Article to View Full Text. “

  21. Kristin Hausen

    “Wir nutzen es ja nicht”, oder wie? Lerne erstmal schreiben, (“mit in Falten gelegter mahnender Stin”) ansonsten faltest du dir noch was falsches.

  22. Enno

    Noch ein interessanter Beitrag aus nicht ganz unberufenem Munde http://www.wired.com/magazine/2010/02/ff_google_algorithm/


Leave a Reply



Back to top