Linux kernel mirror (for testing) git.kernel.org/pub/scm/linux/kernel/git/torvalds/linux.git
kernel os linux

objtool: Get rid of reloc->rel[a]

Get the relocation entry info from the underlying rsec->data.

With allyesconfig + CONFIG_DEBUG_INFO:

- Before: peak heap memory consumption: 35.12G
- After: peak heap memory consumption: 29.93G

Link: https://lore.kernel.org/r/2be32323de6d8cc73179ee0ff14b71f4e7cefaa0.1685464332.git.jpoimboe@kernel.org
Signed-off-by: Josh Poimboeuf <jpoimboe@kernel.org>

+96 -78
+7 -13
tools/objtool/check.c
··· 968 968 if (!reloc) 969 969 return -1; 970 970 971 - set_reloc_type(reloc, addr_size == 8 ? R_ABS64 : R_ABS32); 971 + set_reloc_type(file->elf, reloc, addr_size == 8 ? R_ABS64 : R_ABS32); 972 972 973 973 idx++; 974 974 } ··· 1363 1363 * noinstr text. 1364 1364 */ 1365 1365 if (opts.hack_noinstr && insn->sec->noinstr && sym->profiling_func) { 1366 - if (reloc) { 1367 - set_reloc_type(reloc, R_NONE); 1368 - elf_write_reloc(file->elf, reloc); 1369 - } 1366 + if (reloc) 1367 + set_reloc_type(file->elf, reloc, R_NONE); 1370 1368 1371 1369 elf_write_insn(file->elf, insn->sec, 1372 1370 insn->offset, insn->len, ··· 1390 1392 if (sibling) 1391 1393 WARN_INSN(insn, "tail call to __fentry__ !?!?"); 1392 1394 if (opts.mnop) { 1393 - if (reloc) { 1394 - set_reloc_type(reloc, R_NONE); 1395 - elf_write_reloc(file->elf, reloc); 1396 - } 1395 + if (reloc) 1396 + set_reloc_type(file->elf, reloc, R_NONE); 1397 1397 1398 1398 elf_write_insn(file->elf, insn->sec, 1399 1399 insn->offset, insn->len, ··· 1870 1874 if (opts.hack_jump_label && special_alt->key_addend & 2) { 1871 1875 struct reloc *reloc = insn_reloc(file, orig_insn); 1872 1876 1873 - if (reloc) { 1874 - set_reloc_type(reloc, R_NONE); 1875 - elf_write_reloc(file->elf, reloc); 1876 - } 1877 + if (reloc) 1878 + set_reloc_type(file->elf, reloc, R_NONE); 1877 1879 elf_write_insn(file->elf, orig_insn->sec, 1878 1880 orig_insn->offset, orig_insn->len, 1879 1881 arch_nop_insn(orig_insn->len));
+7 -53
tools/objtool/elf.c
··· 575 575 { 576 576 struct reloc *reloc; 577 577 578 - for (reloc = sym->relocs; reloc; reloc = reloc->sym_next_reloc) { 579 - reloc->rel.r_info = GELF_R_INFO(reloc->sym->idx, reloc_type(reloc)); 580 - if (elf_write_reloc(elf, reloc)) 581 - return -1; 582 - } 578 + for (reloc = sym->relocs; reloc; reloc = reloc->sym_next_reloc) 579 + set_reloc_sym(elf, reloc, reloc->sym->idx); 583 580 584 581 return 0; 585 582 } ··· 866 869 reloc->sec = rsec; 867 870 reloc->sym = sym; 868 871 869 - reloc->rel.r_offset = offset; 870 - reloc->rel.r_info = GELF_R_INFO(sym->idx, type); 871 - reloc->rela.r_addend = addend; 872 - 873 - if (elf_write_reloc(elf, reloc)) 874 - return NULL; 872 + set_reloc_offset(elf, reloc, offset); 873 + set_reloc_sym(elf, reloc, sym->idx); 874 + set_reloc_type(elf, reloc, type); 875 + set_reloc_addend(elf, reloc, addend); 875 876 876 877 elf_hash_add(reloc, &reloc->hash, reloc_hash(reloc)); 877 878 reloc->sym_next_reloc = sym->relocs; ··· 927 932 elf_data_rela_type(elf)); 928 933 } 929 934 930 - static int read_reloc(struct section *rsec, int i, struct reloc *reloc) 931 - { 932 - bool rela = rsec->sh.sh_type == SHT_RELA; 933 - void *retp; 934 - 935 - if (rela) 936 - retp = gelf_getrela(rsec->data, i, &reloc->rela); 937 - else 938 - retp = gelf_getrel(rsec->data, i, &reloc->rel); 939 - 940 - if (!retp) { 941 - WARN_ELF("gelf_getrela"); 942 - return -1; 943 - } 944 - 945 - return 0; 946 - } 947 - 948 935 static int read_relocs(struct elf *elf) 949 936 { 950 937 unsigned long nr_reloc, max_reloc = 0; ··· 961 984 for (i = 0; i < sec_num_entries(rsec); i++) { 962 985 reloc = &rsec->relocs[i]; 963 986 964 - if (read_reloc(rsec, i, reloc)) 965 - return -1; 966 - 967 987 reloc->sec = rsec; 968 - symndx = GELF_R_SYM(reloc->rel.r_info); 988 + symndx = reloc_sym(reloc); 969 989 reloc->sym = sym = find_symbol_by_index(elf, symndx); 970 990 if (!reloc->sym) { 971 991 WARN("can't find reloc entry symbol %d for %s", ··· 1231 1257 memcpy(data->d_buf + offset, insn, len); 1232 1258 1233 1259 mark_sec_changed(elf, sec, true); 1234 - 1235 - return 0; 1236 - } 1237 - 1238 - int elf_write_reloc(struct elf *elf, struct reloc *reloc) 1239 - { 1240 - struct section *rsec = reloc->sec; 1241 - int ret; 1242 - 1243 - if (rsec->sh.sh_type == SHT_RELA) 1244 - ret = gelf_update_rela(rsec->data, reloc_idx(reloc), &reloc->rela); 1245 - else 1246 - ret = gelf_update_rel(rsec->data, reloc_idx(reloc), &reloc->rel); 1247 - 1248 - if (!ret) { 1249 - WARN_ELF("gelf_update_rela"); 1250 - return -1; 1251 - } 1252 - 1253 - mark_sec_changed(elf, rsec, true); 1254 1260 1255 1261 return 0; 1256 1262 }
+82 -12
tools/objtool/include/objtool/elf.h
··· 72 72 73 73 struct reloc { 74 74 struct elf_hash_node hash; 75 - union { 76 - GElf_Rela rela; 77 - GElf_Rel rel; 78 - }; 79 75 struct section *sec; 80 76 struct symbol *sym; 81 77 struct reloc *sym_next_reloc; ··· 128 132 int elf_write_insn(struct elf *elf, struct section *sec, 129 133 unsigned long offset, unsigned int len, 130 134 const char *insn); 131 - int elf_write_reloc(struct elf *elf, struct reloc *reloc); 132 135 int elf_write(struct elf *elf); 133 136 void elf_close(struct elf *elf); 134 137 ··· 199 204 return reloc - reloc->sec->relocs; 200 205 } 201 206 202 - static inline unsigned long reloc_offset(struct reloc *reloc) 207 + static inline void *reloc_rel(struct reloc *reloc) 203 208 { 204 - return reloc->rel.r_offset; 209 + struct section *rsec = reloc->sec; 210 + 211 + return rsec->data->d_buf + (reloc_idx(reloc) * rsec->sh.sh_entsize); 205 212 } 206 213 207 - static inline unsigned int reloc_type(struct reloc *reloc) 214 + static inline bool is_32bit_reloc(struct reloc *reloc) 208 215 { 209 - return GELF_R_TYPE(reloc->rel.r_info); 216 + /* 217 + * Elf32_Rel: 8 bytes 218 + * Elf32_Rela: 12 bytes 219 + * Elf64_Rel: 16 bytes 220 + * Elf64_Rela: 24 bytes 221 + */ 222 + return reloc->sec->sh.sh_entsize < 16; 210 223 } 211 224 212 - static inline void set_reloc_type(struct reloc *reloc, int type) 225 + #define __get_reloc_field(reloc, field) \ 226 + ({ \ 227 + is_32bit_reloc(reloc) ? \ 228 + ((Elf32_Rela *)reloc_rel(reloc))->field : \ 229 + ((Elf64_Rela *)reloc_rel(reloc))->field; \ 230 + }) 231 + 232 + #define __set_reloc_field(reloc, field, val) \ 233 + ({ \ 234 + if (is_32bit_reloc(reloc)) \ 235 + ((Elf32_Rela *)reloc_rel(reloc))->field = val; \ 236 + else \ 237 + ((Elf64_Rela *)reloc_rel(reloc))->field = val; \ 238 + }) 239 + 240 + static inline u64 reloc_offset(struct reloc *reloc) 213 241 { 214 - reloc->rel.r_info = GELF_R_INFO(GELF_R_SYM(reloc->rel.r_info), type); 242 + return __get_reloc_field(reloc, r_offset); 243 + } 244 + 245 + static inline void set_reloc_offset(struct elf *elf, struct reloc *reloc, u64 offset) 246 + { 247 + __set_reloc_field(reloc, r_offset, offset); 248 + mark_sec_changed(elf, reloc->sec, true); 215 249 } 216 250 217 251 static inline s64 reloc_addend(struct reloc *reloc) 218 252 { 219 - return reloc->rela.r_addend; 253 + return __get_reloc_field(reloc, r_addend); 254 + } 255 + 256 + static inline void set_reloc_addend(struct elf *elf, struct reloc *reloc, s64 addend) 257 + { 258 + __set_reloc_field(reloc, r_addend, addend); 259 + mark_sec_changed(elf, reloc->sec, true); 260 + } 261 + 262 + 263 + static inline unsigned int reloc_sym(struct reloc *reloc) 264 + { 265 + u64 info = __get_reloc_field(reloc, r_info); 266 + 267 + return is_32bit_reloc(reloc) ? 268 + ELF32_R_SYM(info) : 269 + ELF64_R_SYM(info); 270 + } 271 + 272 + static inline unsigned int reloc_type(struct reloc *reloc) 273 + { 274 + u64 info = __get_reloc_field(reloc, r_info); 275 + 276 + return is_32bit_reloc(reloc) ? 277 + ELF32_R_TYPE(info) : 278 + ELF64_R_TYPE(info); 279 + } 280 + 281 + static inline void set_reloc_sym(struct elf *elf, struct reloc *reloc, unsigned int sym) 282 + { 283 + u64 info = is_32bit_reloc(reloc) ? 284 + ELF32_R_INFO(sym, reloc_type(reloc)) : 285 + ELF64_R_INFO(sym, reloc_type(reloc)); 286 + 287 + __set_reloc_field(reloc, r_info, info); 288 + 289 + mark_sec_changed(elf, reloc->sec, true); 290 + } 291 + static inline void set_reloc_type(struct elf *elf, struct reloc *reloc, unsigned int type) 292 + { 293 + u64 info = is_32bit_reloc(reloc) ? 294 + ELF32_R_INFO(reloc_sym(reloc), type) : 295 + ELF64_R_INFO(reloc_sym(reloc), type); 296 + 297 + __set_reloc_field(reloc, r_info, info); 298 + 299 + mark_sec_changed(elf, reloc->sec, true); 220 300 } 221 301 222 302 #define for_each_sec(file, sec) \