Η καλλιεργούμενη ελιά είναι δέντρο ή δενδρύλλιο που μπορεί να ζήσει πολλές εκατοντάδες χρόνια.  Φθάνει συνήθως σε ύψος τα 12-15 μέτρα.  Ωστόσο, μερικές αιωνόβιες ελιές αποκτούν γιγάντιες διαστάσεις, φθάνοντας τα 25-30 μέτρα ύψος και τα 8 μέτρα περίμετρο κορμού.  Ο κορμός είναι, συχνά, στρεβλός.  Έχει γκρίζο ξηρό φλοιό, που αποσπάται κατά πλάκες ή λωρίδες.  Στη βάση του κορμού υπάρχουν χαρακτηριστικά ξυλώδη εξογκώματα, σε μέγεθος πατάτας, που λέγονται γόγγροι.  Οι γόγγροι αποτελούνται από ξυλώδη ιστό, πλούσιο σε αποθησαυριστικές ουσίες, ο οποίος προστατεύει πλήθος οφθαλμών.

Ο κορμός φέρει συχνά κοιλότητες που οφείλονται σε διακοπές της συνέχειας του φελλοκαμβίου ή και του καμβίου, λόγω παθογόνων αιτιών ή πληγών.  Στα γέρικα άτομα έχει αποσαθρωθεί το σύνολο σχεδόν του εγκάρδιου ξύλου και έτσι ο κορμός είναι κούφιος στο εσωτερικό.

Το ξύλο στα νεαρά φυτά είναι σκληρό, ανθεκτικό σε παράσιτα και ασθένειες, έχει χρώμα κίτρινο με γκρίζες φλέβες.  Χρησιμοποιείται στην επιπλοποιία και ως καύσιμο.

Το δέντρο, όταν δεν κλαδευτεί, παίρνει πυραμοειδή μορφή.  Το φύλλωμα είναι πολυετές.  Τα φύλλα είναι απλά και διατάσσονται αντίθετα.  Έχουν σχήμα ωοειδές, είναι στιλπνά και φέρουν τρίχες. Το χρώμα τους είναι πράσινο στην επάνω πλευρά και υπόλευκο στην κάτω.