Jeg tror du skal bruge en JTable. Jeg har ikke brugt Java særlig meget, så jeg er ikke sikker på om der er andre Komponenter der er mere velegnede.
Her er et link til dokumentationen af JTable:
http://java.sun.com/j2se/1.4.2/docs/api/javax/swing/JTable.html