Για την ονομασία του νησιού, υπάρχουν πολλές εκδοχές. Ο θρύλος του νησιού αναφέρει ότι επειδή οι πρώτοι κάτοικοι αγαπούσαν υπερβολικά τον τόπο τους, έκλεψαν τους Ολύμπιους θεούς και τους έφεραν εδώ. Για την πράξη αυτή, ονομάστηκαν Αρπάθεοι. Αργότερα μετατράπηκε σε Καρπάθεοι και τέλος σε Καρπάθιοι οπότε και η Κάρπαθος. Ο Όμηρος την ονομάζει Κράπαθο, σύμφωνα με αναφορά στα Γεωγραφικά του Στράβωνα. Άλλα αρχαία ονόματα του νησιού είναι Τετράπολις, Ανεμόεσσα και Ανεμούσα, ενώ κατά το Μεσαίωνα ονομαζόταν Scarpanto (η ονομασία αυτή για το νησί επιβιώνει ακόμη στα ιταλικά). Η Κάρπαθος έχει δώσει το όνομά της στο πέλαγος που την περιβρέχει, στο Καρπάθιο Πέλαγος.