<div dir="ltr">Hello kindred Maintainers,<div><br></div><div>I stumbled upon <a href="https://www.technologyreview.com/2021/03/11/1020600/facebook-responsible-ai-misinformation/">this piece of reporting about Facebook&#39;s trials and tribulations</a> in using AI to moderate content on their platform and found myself reframing the narrative around maintaining leaks in a gas utility network, something I&#39;ve been involved in for a couple of years as part of my day job. Thought I&#39;d share this thought experiment.</div><div>----</div><div>As some of you have known, over the past few years, I&#39;ve encountered an interesting and troubling posture amongst operators of physical asset networks (gas, roads etc)<br><br></div><div><span style="font-variant-numeric:normal;font-variant-east-asian:normal;font-family:Arial;color:rgb(0,0,0);font-weight:700;vertical-align:baseline;white-space:pre-wrap">“What we don’t know, will not hurt us</span><span style="font-variant-numeric:normal;font-variant-east-asian:normal;font-family:Arial;color:rgb(0,0,0);vertical-align:baseline;white-space:pre-wrap">” are the words I heard from a senior operations manager at one of the country&#39;s largest gas utilities and it bothered me. Though not widespread, I find this logic at the core of large institutions avoiding routine maintenance of their assets.</span></div><div><span style="font-variant-numeric:normal;font-variant-east-asian:normal;font-family:Arial;color:rgb(0,0,0);vertical-align:baseline;white-space:pre-wrap">&quot;</span><span style="font-variant-numeric:normal;font-variant-east-asian:normal;font-family:Arial;color:rgb(0,0,0);font-style:italic;vertical-align:baseline;white-space:pre-wrap">Wilful blindness&quot;</span><span style="font-variant-numeric:normal;font-variant-east-asian:normal;font-family:Arial;color:rgb(0,0,0);vertical-align:baseline;white-space:pre-wrap"> causes these institutions </span><span style="background-color:transparent;font-variant-numeric:normal;font-variant-east-asian:normal;font-family:Arial;color:rgb(0,0,0);vertical-align:baseline;white-space:pre-wrap">to adopt defensive measures against liability concerns rather than confront the issue of looking for distress and fixing issues.</span><br></div><div><font color="#000000" face="Arial"><span style="white-space:pre-wrap"><br></span></font></div><div><font color="#000000" face="Arial"><span style="white-space:pre-wrap"><i>So what does this mean for social media networks?</i></span></font></div><div><font color="#000000" face="Arial"><span style="white-space:pre-wrap"><a href="https://twitter.com/timnitGebru/status/1370084044038414350?s=20">I stumbled upon this comment by former Google AI ethics researcher</a> Timnit Gebru that describes the same mechanisms of Wilful Blindness at play within Youtube management.</span></font></div><div><i><font color="#000000" face="Arial"><span style="white-space:pre-wrap">&quot;</span></font>A colleague was told by an executive that it&#39;s better <u>not to look rather than fix issues on youtube because you might be legally required to fix issues if you find them</u>&quot;</i></div><div><font color="#000000" face="Arial"><span style="white-space:pre-wrap"><br></span></font></div><div><font color="#000000" face="Arial"><span style="white-space:pre-wrap">This made me make a conceptual leap and compare Social Media networks to Gas Utilities.</span></font></div><div><font color="#000000" face="Arial"><span style="white-space:pre-wrap"><br></span></font></div><div><font color="#000000" face="Arial"><span style="white-space:pre-wrap">Inflammatory content on social media, when viewed through the lens of a gas utility is well, inflammable! Gas that leaks risks blowing up property and people the same way inflammatory content that spreads risks blowing up property and people. (Rohingya massacre, Capitol Riots etc.)</span></font></div><div><br></div><div>It&#39;s a cheeky analogy but useful in revealing approaches to moderate noxious content on networked social media. The current narrative is mired in free speech and bias and I find a non-anthropocentric perspective (inflammatory content as gas) allows me to systematize the problem to a some extent. I tread cautiously here as I am well aware of the pitfalls in &quot;systematizing&quot; problems in human systems.</div><div><br></div><div>There&#39;s an important difference between Networked Social Media  and Networked Gas. </div><div>A leaky Gas Network affects the profit margin (lost gas) whereas </div><div>A leaky social media network (reminder: A leak = spread of inflammatory content) is great for business! </div><div>This was validated in the MIT reporting and a useful inversion.</div><div><br></div><div>Networks that &quot;leak&quot; ought to imply poorer service. The current design of social media networks violates this basic principle. So can we envision a social media network where leaks lead to poorer service? Here&#39;s an idea:</div><div><br></div><div>Consider me or someone in my immediate network choosing to engage with inflammatory content. THAT&#39;s a LEAK! and I should get poorer quality service for it. What does poorer quality service mean though? I think it should be an engineered delay on the feed. The &quot;feeds&quot; of people who share inflammatory content ought to be penalized so that they experienced a poorer service. </div><div><div><br>Wait there&#39;s more! While Gas Utilities are heavily regulated entities required to perform frequent leak surveys, a good chunk of Gas Network Maintenance is actually done by the public and involves reporting leaks to the utility. <a href="https://urbint.com/blog/smells-and-the-city-the-past-present-and-future-of-gas-utility-emergency-response">I wrote about this some time ago, some cool History here</a></div></div><div><br></div><div>So there is an element of participatory design here where networks of people are incentivized to report leaks in their network in order to get a good quality service.</div><div><br></div><div>I believe it was Stewart Brand who said that &quot;Information wants to be Free&quot;. </div><div><br></div><div>Yes, but Engagement based on Viral and Inflammatory Content on Networked Social media is a Highly Refined Product similar to pipelines of Flammable Gas/Jet fuel that&#39;s not only heavily regulated by the government, they are moderated by the public at large.</div><div><font color="#000000" face="Arial"><span style="white-space:pre-wrap"><br></span></font><div><div><div>Love to know if there is any similar thinking out there.</div><div><br></div><div><a href="https://docs.google.com/document/d/1KIwcUftbbPFosuCImIgTo9Vi7efjHqwrzLPI-d32NlA/edit#heading=h.83egf4se7n4b">Further reading on how Wilful Blindness affects maintenance</a></div>-- <br><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr">Thank You,<div>Varun Adibhatla</div><div>ARGO</div><div>347-815-3383</div></div></div></div></div></div></div>