<div dir="ltr">At the end of the day, the business needs to besides to take that cost. All you can do is document, and talk about the risks.<div><br></div><div>Save that email for that "I told you so moment"</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Aug 31, 2020 at 10:50 AM Mike Bolitho <<a href="mailto:mikebolitho@gmail.com">mikebolitho@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif">That's all we can do. Thankfully I work for an org that understands this and has <i>at least</i> two fully redundant circuits. Sometimes a third smaller carrier if we can prove that it is diverse, but that isn't the case very often.</div><div><div dir="ltr"><div dir="ltr"><font color="#000000" face="arial, helvetica, sans-serif"><br>- Mike Bolitho</font></div></div></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Aug 31, 2020 at 7:35 AM Tomas Lynch <<a href="mailto:tomas.lynch@gmail.com" target="_blank">tomas.lynch@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_default" style="font-family:monospace,monospace">Maybe we are idealizing these so-called tier-1 carriers and we, tier-ns, should treat them as what they really are: another AS. Accept that they are going to fail and do our best to mitigate the impact on our own networks, i.e. more peering.</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Aug 31, 2020 at 9:54 AM Martijn Schmidt via NANOG <<a href="mailto:nanog@nanog.org" target="_blank">nanog@nanog.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">



<div>
At this point you don't even know whether it's a human error (example: generating a flowspec rule for port TCP/179), a filtering issue (example: accepting a flowspec rule for port TCP/179), or a software issue (example: certain flowspec update crashes the BGP
 daemon). And in the third scenario I think that at least some portion of the blame shifts from the carrier to its vendors, assuming the thing that crashed was not a home-grown BGP implementation.<br>
<br>
With the route optimizer incidents - because let's face it, Honest Networker is on the money as usual
<a href="https://honestnetworker.net/2020/08/06/as10990-routing/" target="_blank">https://honestnetworker.net/2020/08/06/as10990-routing/</a> - there is really no excuse for any tier-1 carrier, they should at the very least have strict prefix-list based filtering in place
 for customer-facing EBGP sessions. In those cases it's much easier to state who's not taking care of their proverbial lawn.<br>
<br>
Best regards,<br>
Martijn<br>
<br>
<div>On 8/31/20 3:25 PM, Tom Beecher wrote:<br>
</div>
<blockquote type="cite">
<div dir="ltr">
<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<a href="https://blog.cloudflare.com/analysis-of-todays-centurylink-level-3-outage/" target="_blank">https://blog.cloudflare.com/analysis-of-todays-centurylink-level-3-outage/</a></blockquote>
<div><br>
</div>
<div>I definitely found Mr. Prince's writing about yesterday's events fascinating.</div>
<div><br>
</div>
<div>Verizon makes a mistake with BGP filters that allows a secondary mistake from leaked "optimizer" routes to propagate, and Mr. Prince takes every opportunity to lob large chunks of granite about how terrible they are. </div>
<div><br>
</div>
<div>L3 allows an erroneous flowspec announcement to cause massive global connectivity issues, and Mr. Prince shrugs and says "Incidents happen." </div>
<div><br>
</div>
<div><br>
</div>
<div><br>
</div>
<div><br>
</div>
</div>
<br>
<div class="gmail_quote">
<div dir="ltr" class="gmail_attr">On Mon, Aug 31, 2020 at 1:15 AM Hank Nussbacher <<a href="mailto:hank@interall.co.il" target="_blank">hank@interall.co.il</a>> wrote:<br>
</div>
<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<div>
<div>On 30/08/2020 20:08, Baldur Norddahl wrote:</div>
<div><br>
</div>
<div><a href="https://blog.cloudflare.com/analysis-of-todays-centurylink-level-3-outage/" target="_blank">https://blog.cloudflare.com/analysis-of-todays-centurylink-level-3-outage/</a></div>
<div><br>
</div>
<div>Sounds like Flowspec possibly blocking tcp/179 might be the cause.</div>
<div><br>
</div>
<div>But that is Cloudflare speculation.</div>
<div><br>
</div>
<div>Regards,<br>
Hank</div>
<div>Caveat: The views expressed above are solely my own and do not express the views or opinions of my employer
<br>
</div>
<div><br>
</div>
<blockquote type="cite">
<div dir="ltr">
<div>An outage is what it is. I am not worried about outages. We have multiple transits to deal with that.</div>
<div><br>
</div>
<div>It is the keep announcing prefixes after withdrawal from peers and customers that is the huge problem here. That is killing all the effort and money I put into having redundancy. It is sabotage of my network after I cut the ties. I do not want to be a
 customer at an outlet who has a system that will do that. Luckily we do not currently have a contract and now they will have to convince me it is safe for me to make a contract with them. If that is impossible I guess I won't be getting a contract with them.</div>
<div><br>
</div>
<div>But I disagree in that it would be impossible. They need to make a good report telling exactly what went wrong and how they changed the design, so something like this can not happen again. The basic design of BGP is such that this should not happen easily
 if at all. They did something unwise. Did they make a route reflector based on a database or something?</div>
<div><br>
</div>
<div>Regards,</div>
<div><br>
</div>
<div>Baldur</div>
<br>
<div class="gmail_quote">
<div dir="ltr" class="gmail_attr">On Sun, Aug 30, 2020 at 5:13 PM Mike Bolitho <<a href="mailto:mikebolitho@gmail.com" target="_blank">mikebolitho@gmail.com</a>> wrote:<br>
</div>
<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<div dir="auto">Exactly. And asking that they somehow prove this won't happen again is impossible.<br>
<br>
<div>- Mike Bolitho</div>
</div>
<br>
<div class="gmail_quote">
<div dir="ltr" class="gmail_attr">On Sun, Aug 30, 2020, 8:10 AM Drew Weaver <<a href="mailto:drew.weaver@thenap.com" target="_blank">drew.weaver@thenap.com</a>> wrote:<br>
</div>
<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<div lang="EN-US">
<div>
<p class="MsoNormal">I’m not defending them but I am sure it isn’t intentional.</p>
<p class="MsoNormal"> </p>
<div style="border-right:none;border-bottom:none;border-left:none;border-top:1pt solid rgb(225,225,225);padding:3pt 0in 0in">
<p class="MsoNormal"><b>From:</b> NANOG <nanog-bounces+drew.weaver=<a href="mailto:thenap.com@nanog.org" rel="noreferrer" target="_blank">thenap.com@nanog.org</a>>
<b>On Behalf Of </b>Baldur Norddahl<br>
<b>Sent:</b> Sunday, August 30, 2020 9:28 AM<br>
<b>To:</b> <a href="mailto:nanog@nanog.org" rel="noreferrer" target="_blank">
nanog@nanog.org</a><br>
<b>Subject:</b> Re: Centurylink having a bad morning?</p>
</div>
<p class="MsoNormal"> </p>
<div>
<p class="MsoNormal">How is that acceptable behaviour? I shall remember never to make a contract with these guys until they can prove that they won't advertise my prefixes after I pull them. Under any circumstances. </p>
</div>
<p class="MsoNormal"> </p>
<div>
<div>
<p class="MsoNormal">søn. 30. aug. 2020 15.14 skrev Joseph Jenkins <<a href="mailto:joe@breathe-underwater.com" rel="noreferrer" target="_blank">joe@breathe-underwater.com</a>>:</p>
</div>
<blockquote style="border-top:none;border-right:none;border-bottom:none;border-left:1pt solid rgb(204,204,204);padding:0in 0in 0in 6pt;margin-left:4.8pt;margin-right:0in">
<div>
<p class="MsoNormal">Finally got through on their support line and spoke to level1. The only thing the tech could say was it was an issue with BGP route reflectors and it started about 3am(pacific). They were still trying to isolate the issue. I've tried failing
 over my circuits and no go, the traffic just dies as L3 won't stop advertising my routes.</p>
</div>
<p class="MsoNormal"> </p>
<div>
<div>
<p class="MsoNormal">On Sun, Aug 30, 2020 at 5:21 AM Drew Weaver via NANOG <<a href="mailto:nanog@nanog.org" rel="noreferrer" target="_blank">nanog@nanog.org</a>> wrote:</p>
</div>
<blockquote style="border-top:none;border-right:none;border-bottom:none;border-left:1pt solid rgb(204,204,204);padding:0in 0in 0in 6pt;margin-left:4.8pt;margin-right:0in">
<div>
<div>
<p class="MsoNormal">Hello,</p>
<p class="MsoNormal"> </p>
<p class="MsoNormal">Woke up this morning to a bunch of reports of issues with connectivity had to shut down some Level3/CTL connections to get it to return to normal.</p>
<p class="MsoNormal"> </p>
<p class="MsoNormal">As of right now their support portal won’t load: <a href="https://www.centurylink.com/business/login/" rel="noreferrer" target="_blank">
https://www.centurylink.com/business/login/</a></p>
<p class="MsoNormal"> </p>
<p class="MsoNormal">Just wondering what others are seeing.</p>
<p class="MsoNormal"> </p>
</div>
</div>
</blockquote>
</div>
</blockquote>
</div>
</div>
</div>
</blockquote>
</div>
</blockquote>
</div>
</div>
</blockquote>
<br>
</div>
</blockquote>
</div>
</blockquote>
<br>
</div>

</blockquote></div>
</blockquote></div>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr" class="gmail_signature">Sincerely,<br> <br>Jason W Kuehl<br>Cell 920-419-8983<br><a href="mailto:jason.w.kuehl@gmail.com" target="_blank">jason.w.kuehl@gmail.com</a></div>