Arvo Ots sündis 26. juunil 1931. aastal Pärnus kooliõpetaja perekonnas. Kooliteed alustas ta Viljandis, kuid 1950. aastal lõpetas ta eksternina Tallinna reaalkooli. Tallinna tehnikaülikooli (tollal TPI) mehaanikateaduskonna lõpetas Arvo Ots 1955. aastal cum laude soojustehnika erialal. Õppetöö kõrvalt töötas ta soojustehnika kateedri vanemlaborandina ning pärast ülikooli lõpetamist mõnda aega teaduste akadeemia energeetika instituudi nooremteadurina.
Novembrist 1955 sai temast aspirant (praeguses mõttes doktorant) ning 1958. aastal kaitses ta TPI juures tehnikakandidaadi (praegu võrdsustatud PhD kraadiga) väitekirja „Tolmpõlevkivi põlemine“ ning 1962. aastal sai ta dotsendi kutse. Praegu oleks see kaas- või abiprofessori tase. Tehnikadoktori väitekirja „Soojusfüüsikalised ja keemilised protsessid põlevkivi tolmküttekolletes“ kaitses Arvo Ots Eesti teaduste akadeemia juures 1968. aastal. Järgmisel aastal omistati talle professori kutse.
Eesti teaduste akadeemia liikmeks valiti Arvo Ots 1983. aastal energeetika alal.
Alates 1959. aastast oli Arvo Otsa tegevus teadlase ja õpetlasena seotud Tallinna tehnikaülikooliga. Ta oli algul soojusenergeetika kateedri tunnitasuline õppejõud, edasi dotsent, vanemteadur, 1968–1991 professor ja soojusenergeetika kateedri juhataja. Pärast taasiseseisvumist ta vastutus kasvas: 1991–2002 oli ta soojustehnika instituudi direktor, 2001−2003 erakorraline professor ja 2003−2015 vanemteadur. Alates 2003 oli Arvo Ots Tallinna tehnikaülikooli emeriitprofessor.
Arvo Ots on üks põlekivi põletamise alase teoreetilise teaduse alusepanijaid. Tema uuringute fookuses oli soojuselektrijaamade aurukatelde kolletes toimuvad protsessid, algul võimalused vananenud restkatelde asendamiseks tolmpõletamisseademetega ja edasi keevkihtkatelde teooria ja praktika. Tunnetuslikult olulised olid mitmest fraktsioonist koosneva kütuse püsivmahulise põlemisteooria loomine, termilise piirikihi mõju selgitamine kiirgussoojusülekandele koldes, aurukatla küttepindade korrosioon-erosiivse kulumise ja metalli oleku kindlakstegemine äkkjahutuse tingimustes. Tema uurimistöö oli oluliseks aluseks suure võimsusega põlevkivienergeetika seadmete loomisel Eesti elektrijaamades.
Poole sajandi jooksul õpetas Arvo Ots tehnikaülikoolis peamiselt soojusjõuseadmete valdkonda kuuluvaid aineid, oli kolme NSVL doktoritöö ja paljude teaduste kandidaadi ja PhD väitekirjade juhendaja. Tema sulest on ilmunud üle 500 teaduspublikatsiooni (sh neli monograafiat) ja mitmed kõrgkooliõpikud. Arvo Ots on osalenud Eesti Vabariigi energiaseaduse väljatöötamisel ja juhtinud kollektiive Eesti energeetika arenguprogrammide koostamisel. Ta oli teaduste akadeemia energeetikanõukogu liige ning mitme ajakirja toimetuskolleegiumi liige.
Kahel korral on Arvo Otsa tööd tunnustatud Nõukogude Eesti teaduspreemiatega (1970, 1980). 1981 nimetati ta Eesti NSV teeneliseks teadlaseks. 2003 pälvis ta Eesti Vabariigi Valgetähe IV klassi teenetemärgi, 2006 aasta inseneri tiitli ning 2010 riigi teaduspreemia pikaajalise tulemusliku teadus- ja arendustöö eest ehk nn elutööpreemia.