crear archivos txt en orden

Estimado Michael Cerdas, creo que lo recomendable de realizar según lo que estas necesitando seria aplicar el uso de SaveFileDialog, para tener un poco mas de libertad al momento de realizar el guardado de tu archivo de texto y en caso exista un archivo del mismo nombre del que estés queriendo guardar, te hará la pregunta de que si deseas reemplazarlo.

De la manera en que planteas, puede darse el caso que quieras guardar un archivo de nombre 05.txt, pero digamos que ya existen 50 archivos, el programa estaría evaluando la existencia a cada momento y creo que eso no es lo mas optimo, según mi humilde punto de vista (amenos que se te exija realizar de dicha manera).

Aqui muestro el codigo para que te puedas apoyar:

Private Sub btnGuardar_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles Button1.Click
        Dim fs As FileStream = Nothing

        If SaveFileDialog1.ShowDialog() = DialogResult.OK Then

            If (Not File.Exists(SaveFileDialog1.FileName)) Then
                fs = File.Create(SaveFileDialog1.FileName)

            End If

        End If
        
    End Sub

Espero haberte ayudado. Saludos.