<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40"><head><meta http-equiv=Content-Type content="text/html; charset=utf-8"><meta name=Generator content="Microsoft Word 15 (filtered medium)"><!--[if !mso]><style>v\:* {behavior:url(#default#VML);}
o\:* {behavior:url(#default#VML);}
w\:* {behavior:url(#default#VML);}
.shape {behavior:url(#default#VML);}
</style><![endif]--><style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
span.EmailStyle20
        {mso-style-type:personal-reply;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-size:10.0pt;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:72.0pt 72.0pt 72.0pt 72.0pt;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]--></head><body lang=EN-CA link=blue vlink=purple style='word-wrap:break-word'><div class=WordSection1><p class=MsoNormal><span style='mso-fareast-language:EN-US'>smokeping in master slave mode. A bit old school, but maybe still worth a try.<o:p></o:p></span></p><p class=MsoNormal><span style='mso-fareast-language:EN-US'><o:p> </o:p></span></p><p class=MsoNormal><span style='mso-fareast-language:EN-US'><a href="https://oss.oetiker.ch/smokeping/doc/smokeping_master_slave.en.html">https://oss.oetiker.ch/smokeping/doc/smokeping_master_slave.en.html</a><o:p></o:p></span></p><p class=MsoNormal><span style='mso-fareast-language:EN-US'><o:p> </o:p></span></p><p class=MsoNormal><span style='mso-fareast-language:EN-US'>Jean<o:p></o:p></span></p><p class=MsoNormal><span style='mso-fareast-language:EN-US'><o:p> </o:p></span></p><div><div style='border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0cm 0cm 0cm'><p class=MsoNormal><b><span lang=EN-US>From:</span></b><span lang=EN-US> NANOG <nanog-bounces+jean=ddostest.me@nanog.org> <b>On Behalf Of </b>Adam Thompson<br><b>Sent:</b> November 25, 2021 1:31 PM<br><b>To:</b> Hugo Slabbert <hugo@slabnet.com>; Thomas Scott <mr.thomas.scott@gmail.com><br><b>Cc:</b> nanog <nanog@nanog.org><br><b>Subject:</b> RE: anyone use fbtracert successfully?<o:p></o:p></span></p></div></div><p class=MsoNormal><o:p> </o:p></p><p class=MsoNormal><span style='mso-fareast-language:EN-US'>Thank you!!  Some of those tools are proving <i>much</i> more useful for me than fbtracert.  (In particular, traceflow has been updated recently enough that it “just works” in common environments that have Python3.  And while it may not be perfect, it’s good enough to show what I need.)<o:p></o:p></span></p><p class=MsoNormal><span style='mso-fareast-language:EN-US'>-Adam<o:p></o:p></span></p><p class=MsoNormal><span style='mso-fareast-language:EN-US'>(who apparently has lost the skills needed to Google usefully, in his decrepitude)<o:p></o:p></span></p><p class=MsoNormal><span style='mso-fareast-language:EN-US'><o:p> </o:p></span></p><p class=MsoNormal><b><span style='font-size:10.0pt;color:#44546A;background:white'>Adam Thompson</span></b><span style='font-size:9.0pt;color:#44546A;background:white'><br>Consultant, Infrastructure Services<br></span><span style='font-size:9.0pt;color:#44546A;background:white'><img border=0 width=128 height=39 style='width:1.3333in;height:.4062in' id="_x0000_i1025" src="cid:image001.png@01D7E1F7.DF7F90D0" alt=1593169877849></span><span style='font-size:9.0pt;color:#44546A;background:white'><br>100 - 135 Innovation Drive<br>Winnipeg, MB, R3T 6A8<br>(204) 977-6824 or 1-800-430-6404 (MB only)<br><a href="mailto:athompson@merlin.mb.ca" target="_blank">athompson@merlin.mb.ca</a><br><a href="http://www.merlin.mb.ca/" target="_blank">www.merlin.mb.ca</a></span><span style='font-size:12.0pt;color:black'><o:p></o:p></span></p><p class=MsoNormal><span style='mso-fareast-language:EN-US'><o:p> </o:p></span></p><div style='border:none;border-left:solid blue 1.5pt;padding:0cm 0cm 0cm 4.0pt'><div><div style='border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0cm 0cm 0cm'><p class=MsoNormal><b><span lang=EN-US>From:</span></b><span lang=EN-US> Hugo Slabbert <<a href="mailto:hugo@slabnet.com">hugo@slabnet.com</a>> <br><b>Sent:</b> Thursday, November 25, 2021 10:39 AM<br><b>To:</b> Thomas Scott <<a href="mailto:mr.thomas.scott@gmail.com">mr.thomas.scott@gmail.com</a>><br><b>Cc:</b> Adam Thompson <<a href="mailto:athompson@merlin.mb.ca">athompson@merlin.mb.ca</a>>; nanog <<a href="mailto:nanog@nanog.org">nanog@nanog.org</a>><br><b>Subject:</b> Re: anyone use fbtracert successfully?<o:p></o:p></span></p></div></div><p class=MsoNormal><o:p> </o:p></p><div><p class=MsoNormal>What about some other options?<o:p></o:p></p><div><p class=MsoNormal><o:p> </o:p></p></div><div><p class=MsoNormal><a href="https://paris-traceroute.net/">https://paris-traceroute.net/</a><o:p></o:p></p></div><div><p class=MsoNormal><a href="https://dublin-traceroute.net/">https://dublin-traceroute.net/</a><o:p></o:p></p></div><div><p class=MsoNormal><a href="https://github.com/rucarrol/traceflow">https://github.com/rucarrol/traceflow</a><o:p></o:p></p></div><div><div><div><div><div><div><div><div><div><p class=MsoNormal><o:p> </o:p></p></div><div><p class=MsoNormal><span style='font-family:"Arial",sans-serif'>-- </span><o:p></o:p></p></div><div><p class=MsoNormal><span style='font-family:"Arial",sans-serif'>Hugo Slabbert</span><o:p></o:p></p></div></div></div></div></div></div></div></div><p class=MsoNormal><o:p> </o:p></p></div></div><p class=MsoNormal><o:p> </o:p></p><div><div><p class=MsoNormal>On Wed, Nov 24, 2021 at 9:54 AM Thomas Scott <<a href="mailto:mr.thomas.scott@gmail.com">mr.thomas.scott@gmail.com</a>> wrote:<o:p></o:p></p></div><blockquote style='border:none;border-left:solid #CCCCCC 1.0pt;padding:0cm 0cm 0cm 6.0pt;margin-left:4.8pt;margin-top:5.0pt;margin-right:0cm;margin-bottom:5.0pt'><div><div><p class=MsoNormal><span style='font-size:12.0pt;font-family:"Arial",sans-serif'>Ha, my apologies, I thought I was writing this for a Linux User Group, not a NOG. Ignore my simplistic explanations. <o:p></o:p></span></p></div><div><div><div><div><div><div><p class=MsoNormal><span style='font-family:"Arial",sans-serif'>- Thomas Scott | <a href="mailto:mr.thomas.scott@gmail.com" target="_blank">mr.thomas.scott@gmail.com</a> </span><o:p></o:p></p></div></div></div></div></div></div><p class=MsoNormal><o:p> </o:p></p></div><p class=MsoNormal><o:p> </o:p></p><div><div><p class=MsoNormal>On Wed, Nov 24, 2021 at 12:47 PM Thomas Scott <<a href="mailto:mr.thomas.scott@gmail.com" target="_blank">mr.thomas.scott@gmail.com</a>> wrote:<o:p></o:p></p></div><blockquote style='border:none;border-left:solid #CCCCCC 1.0pt;padding:0cm 0cm 0cm 6.0pt;margin-left:4.8pt;margin-top:5.0pt;margin-right:0cm;margin-bottom:5.0pt'><div><div><p class=MsoNormal><span style='font-size:12.0pt;font-family:"Arial",sans-serif'>I have used it successfully in a test environment that I was using ECMP in. Most of the public networks that I've worked with don't use ECMP as often as other methods for steering traffic (LAGs, BGP MEDs, etc). <o:p></o:p></span></p></div><div><p class=MsoNormal><span style='font-size:12.0pt;font-family:"Arial",sans-serif'><o:p> </o:p></span></p></div><div><p class=MsoNormal><span style='font-size:12.0pt;font-family:"Arial",sans-serif'>What I have seen it fantastically useful for was troubleshooting a transit provider, or for when they were congested or had a flapping core link. Granted I <i>think </i>it's still subject to ICMP deprioritization (most SP's use it prodigiously), and most MPLS cores don't decrement TTL, but it was still useful to be able to show them "no, at this IP, I <b>always</b> drop traffic, when..." <o:p></o:p></span></p></div><div><p class=MsoNormal><span style='font-size:12.0pt;font-family:"Arial",sans-serif'><o:p> </o:p></span></p></div><div><div><div><div><div><div><p class=MsoNormal><span style='font-family:"Arial",sans-serif'>- Thomas Scott | <a href="mailto:mr.thomas.scott@gmail.com" target="_blank">mr.thomas.scott@gmail.com</a> </span><o:p></o:p></p></div></div></div></div></div></div><p class=MsoNormal><o:p> </o:p></p></div><p class=MsoNormal><o:p> </o:p></p><div><div><p class=MsoNormal>On Wed, Nov 24, 2021 at 12:23 PM Adam Thompson <<a href="mailto:athompson@merlin.mb.ca" target="_blank">athompson@merlin.mb.ca</a>> wrote:<o:p></o:p></p></div><blockquote style='border:none;border-left:solid #CCCCCC 1.0pt;padding:0cm 0cm 0cm 6.0pt;margin-left:4.8pt;margin-top:5.0pt;margin-right:0cm;margin-bottom:5.0pt'><div><div><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'>The tool fbtracert (<a href="http://github.com/facebookarchive/fbtracert" target="_blank">http://github.com/facebookarchive/fbtracert</a>) was mentioned here recently as a way to get visibility into multi-pathing.<o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'>Has anyone here ever used this tool successfully?<o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'> <o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'>Supposedly Facebook uses this tool internally, but… that doesn’t help much.<o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'> <o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'>I’ve tried it on 4 different platforms/OSes (WSL Ubuntu; RedHat; Debian; OpenBSD), and versions of Go (v1.10 through v1.16), in three very different environments (on-prem public IP; on-prem NAT’d; cloud public IP), and I’ve yet to see it produce any meaningful output – each run/iteration/thread only detects one, single, hop out of the entire chain of routers, making it less than useful.  Granted, that’s not a full regression test by any means, but if anyone here has ever used it successfully, could you please let me know what sort of environment you ran it in/on?<o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'> <o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'>Thanks,<o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'>-Adam<o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'> <o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'><b><span style='font-size:10.0pt;color:#44546A;background:white'>Adam Thompson</span></b><span style='font-size:9.0pt;color:#44546A;background:white'><br>Consultant, Infrastructure Services<br><br>100 - 135 Innovation Drive<br>Winnipeg, MB, R3T 6A8<br>(204) 977-6824 or 1-800-430-6404 (MB only)<br><a href="mailto:athompson@merlin.mb.ca" target="_blank">athompson@merlin.mb.ca</a><br><a href="http://www.merlin.mb.ca/" target="_blank">www.merlin.mb.ca</a></span><o:p></o:p></p><p class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto'> <o:p></o:p></p></div></div></blockquote></div></blockquote></div></blockquote></div></div></div></body></html>