Em um início vacilante, Gauff, campeã de Roland Garros em maio, perdeu o primeiro set, mas recuperou o controle nas duas parciais seguintes, mostrando solidez no fundo da quadra e um saque melhor.
Siga o WTA 1000 de Montreal em tempo real
Coco ganhou a partida por 2 sets a 1, com parciais de 4-6, 7-5 e 6-2.
"O objetivo da partida é sobreviver e avançar", disse Gauff. "Não é o meu melhor resultado, mas foi o suficiente por hoje, e é tudo o que posso pedir."
"Mentalmente, estou muito orgulhosa de mim mesma. É claro que há aspectos do meu jogo que preciso melhorar, e um deles é o meu saque", enfatizou.
A americana de 21 anos enfrentará na próxima fase a jovem canadense Victoria Mboko, que por sua vez superou a tcheca Marie Bouzková com um pneu no 3º set.
Andreeva e Navarro sofrem queda precoce
Por sua vez, a americana McCartney Kessler (nº 28) causou a maior surpresa do dia ao derrotar a russa Mirra Andreeva, quarta cabeça de chave, por 7-6 (7/5) e 6-4.
Andreeva sofreu uma queda no primeiro set, o que afetou seu desempenho pelo restante da partida.
A adversária de Kessler nas oitavas de final será a ucraniana Marta Kostyuk (nº 24), que derrotou a australiana Daria Kasatkina (nº 15) em uma partida muito equilibrada, que terminou em 3-6, 6-3 e 7-6 (7/4).
A estadunidense Emma Navarro, 11ª do mundo, também foi eliminada na 3ª fase em Montreal. Navarro foi superada pela também ucraniana Dayana Yastremska (35ª) por 7-5 e 6-4.