Carballo abriu o placar com um chute espetacular de fora da área aos 16 minutos e o belga Dante Vanzeir selou a vitória dos visitantes aos 25 minutos.
O Red Bulls agora disputará sua primeira final do Leste desde 2018 contra o vencedor do confronto de domingo entre Orlando City e Atlanta United.
No Oeste, o Los Angeles FC perdeu, na prorrogação, por 2 a 1, para o Seattle Sounders no sábado. O domingo reserva confronto entre LA Galaxy e Minnesota United.
As semifinais de conferência de jogo único começaram no sábado, sem a presença do Inter Miami, de Lionel Messi, que caiu para o Atlanta, nas quartas de final. A equipe de Messi, Luis Suarez, Sergio Busquets e Jordi Alba era a grande favorita ao título depois de quebrar o recorde de pontos da temporada regular.
Na primeira rodada, o atual campeão Columbus Crew também foi eliminado pelo Red Bulls.
Na briga pelo primeiro título de sua história, a franquia de Nova York levou a melhor no primeiro dérbi do Hudson River nos play-offs da MLS.
A disputa começou a ficar favorável aos visitantes aos 16 minutos do primeiro tempo, quando o uruguaio Carballo desferiu um potente chute de pé esquerdo de fora da área que surpreendeu o goleiro Matt Freese.
O meio-campista, que chegou em agosto emprestado pelo Grêmio, já havia sido fundamental na repescagem contra o Columbus, quando marcou o gol de abertura na primeira vitória do Red Bulls.
Com pouco tempo para reagir, o time da casa dobrou a vantagem quando o atacante belga Dante Vanzeir aproveitou uma bola solta na área após uma cobrança de escanteio.
O New York City, campeão da MLS em 2021, buscou reagir tendo apoio da torcida no Citi Field, a casa dos Mets da Major League Baseball.
O costarriquenho Alonso Martínez, o uruguaio Santi Rodríguez e o argentino Maxi Moralez tiveram chances de aumentar o placar, mas foram impedidos pelo goleiro paraguaio Carlos Coronel. O brasileiro Thiago Martins teve a última chance de acertar a trave nos acréscimos.