Super simpel opbevarelse?

Ja, du kan sagtens bare skrive til en .txt fil, men for at være ærlig så er der formentlig en bedre løsning end en tekst fil.

Hvis det er fordi du for eksempel har nogle indstillinger der skal gemmes har C# noget der hedder settings

http://www.codeproject.com/Articles/15013/Windows-Forms-User-Settings-in-C

Nu skriver du ikke hvilket sprog du koder i, men det kan næsten altid gøres bedre end bare en simpel .txt fil.

Ud over det er det også meget nemmere (IMO) at arbejde med objekter og ikke bare en simpel string.

Hvorfor skulle der ikke kunne det?
Du kan selv lave en forbindelse imellem dit felt og fil.

At skrive (og læse fra en fil) er jo ret simpelt:

 string fileContent = "textBox1.Text"; //kan erstattes af textBox1.Text
 string filepath = Server.MapPath("~"); //er lavet i en webapplikation, så kan erstattes med "C:\" eller anden kode der giver dig den placering din kode afvikles.
 string filename = "myfile.txt"; //kan erstattes af textBox1.Name + ".txt"
 string fullFilePath = Path.Combine(filepath, filename);
 
 
 if (!System.IO.File.Exists(fullFilePath))
      System.IO.File.Create(fullFilePath).Close();
 
 using (StreamWriter sw = new StreamWriter(fullFilePath))
 {
      sw.WriteLine(fileContent);
 }
 
 string fileContentRead = "nothing";
 using (StreamReader sr = new StreamReader(fullFilePath))
 {
      fileContentRead = sr.ReadToEnd();
 }
 
 if (!string.Equals(fileContent.Trim(), fileContentRead.Trim()))
      throw new Exception("Det der er skrevet er ikke det samme som det læste");

Men ganske rigtigt som allerede nævnt er der ofte nemmere løsninger.
Det kommer meget an på hvad du ønsker at bruge det til.

Hvis det er settings så kan du have et objekt til det der gør det endnu nemmere at få disse værdier ud. XML er også en mulighed som både læsemæssigt for dig (åbne filen og læse) er nemmere, plus din kode kan struktureres anderledes og du har flere muligheder for at differenciere ting i din fil forskelligt som din applikation udvides og vokser til større og mere avancerede krav og funktionalitet.

Det er til hjemmesider.

Altså at gemme data som username, password, etc. af brugerinformation i textfiler?

Det er ganske muligt, men absolut ikke noget jeg vil anbefale!
1) Det er let, men du bliver meget hurtigt bundet af de eksisterende data.
Så hvis du udvider med du gerne vil have flere data, så er det svært at se hvilke der har de første data, og hvem der har dem du har udvidet med.
2) Du vil kunne gemme det i XML i stedet hvor du nemt kan lave en mapper der laver en simpel struktur for dig og hvis du udvider vil du nemt kunne tilpasse det, og vil være langt nemmere at læse for dig når du åbner filerne og skal se hvad der sker.

Det er stadig anbefalelsesværdigt at det kun er simple data, såsom enkle tekster, og lign. som ikke er brugerdata der meget nemt kan blive meget avancerede.

Hvilket sprog / teknologi vil du benytte?
HVad er formålet med filerne? Hvad skal der gemmes af typer data?