A. Grattafiori, A. Dubey, A. Jauhri, A. Pandey, A. Kadian, A. A. Dahle, A. Letman, A. Mathur, A. Schelten, A. Vaughan, A. Yang, A. Fan, A. G. A. P. Goyal, A. Hartshorn, A. Yang, A. Mitra, A. Sravankumar, A. Korenev, A. Hinsvark, Abhishek Rao, A. Zhang, A. Rodriguez, A. Gregerson, A. Spataru, B. Roziere, B. Biron, B. Tang, B. Chern, C. Caucheteux, C. Nayak, C. Bi, C. Marra, C. Mcconnell, C. Keller, C. Touret, Chiyu Wu, C. Wong, C. C. Ferrer, C. Nikolaidis, D. Allonsius, Dawn Song, D. Pintz, D. Livshits, D. Wyatt, D. Esiobu, D. Choudhury, D. Mahajan, D. G. Olano, D. Perino, Dieuwke Hupkes, E. Lakomkin, E. Albadawy, E. Lobanova, E. Dinan, E. M. Smith, F. Radenovic, F. Guzman, F. Zhang, Gabriel Synnaeve, G. Lee, G. L. Anderson, G. Thattai, G. Nail, G. Mialon, G. Pang, G. Cucurell, H. Nguyen, H. Korevaar, Hu Xu, Hugo Touvron, I. Zarov, I. A. Ibarra, I. Kloumann, Ishan Misra, I. Evtimov, J. Zhang, J. Copet, Jaehoon Lee, J. Geffert, J. Vranes, J. Park, J. Mahadeokar, J. Shah, J. V. D. Linde, J. Billock, J. H. Hong, Jaehoon Lee, J. Fu, J. Chi, J. Huang, Joseph Liu, J. Wang, J. Yu, J. Bitton, J. Spisak, J. Park, J. Rocca, J. Johnstun, J. Saxe, J. Jia, K. V. Alwala, K. Prasad, K. Upasani, K. Plawiak, K. Li, K. Heafield, K. Stone, K. E. Arini, K. Iyer, K. Malik, K. Chiu, K. Bhalla, K. Lakhotia, L. R. Yeary, Laurens Van Der Maaten, L. C. Chen, L. Tan, L. Jenkins, L. Martin, L. Madaan, L. Malo, L. Blecher, L. Landzaat, L. D. Oliveira, M. Muzzi, M. Pasupuleti, M. Singh, M. Paluri, M. Kardas, M. Tsimpoukelli, M. Oldham, M. Rita, M. Pavlova, M. Kambadur, Martha Lewis, M. Si, M. K. Singh, M. Hassan, N. Goyal, N. Torabi, N. Bashlykov, N. Bogoychev, N. Chatterji, N. Zhang, O. Duchenne, O. Celebi, P. Alrassy, Peizhao Zhang, P. L. Li, P. Vasic, Paul Weng, P. Bhargava, P. Dubal, P. Krishnan, P. S. Koura, P. Xu, Q. He, Q. Dong, R. Srinivasan, R. Ganapathy, R. Calderer, R. S. Cabral, R. Stojnic, Roberta Raileanu, R. Maheswari, R. Girdhar, R. Patel, R. Sauvestre, R. Polidoro, R. Sumbaly, R. Taylor, R. Silva, R. Hou, R. Wang, S. Hosseini, S. Chennabasappa, Shivalika Singh, S. Bell, S. S. Kim, S. Edunov, S. Nie, S. Narang, S. Raparthy, S. Shen, S. Wan, S. Bhosale, S. Zhang, S. Vandenhende, S. Batra, S. Whitman, S. Sootla, S. Collot, Suchin Gururangan, S. Borodinsky, T. Herman, T. Fowler, T. Sheasha, T. Georgiou, T. Scialom, T. Speckbacher, T. Mihaylov, T. Xiao, U. Karn, V. Goswami, V. Gupta, V. Ramanathan, V. Kerkez, V. Gonguet, V. Do, V. Vogeti, V. Albiero, V. Petrovic, W. Chu, W. Xiong, W. Fu, W. Meers, X. Martinet, Xinpeng Wang, Xinpeng Wang, X. E. Tan, X. Xia, X. Xie, X. Jia, Xinpeng Wang, Y. Goldschlag, Y. Gaur, Y. Babaei, Y. Wen, Yueqi Song, Y. Z. Zhang, Yiwei Li, Y. Mao, Z. D. Coudert, Zhicheng Yan, Ziru Chen, Z. Papakipos, A. Singh, Aarohi Srivastava, A. Jain, A. Kelsey, A. Shajnfeld, A. Gangidi, A. Victoria, A. Goldstand, A. Menon, Archit Sharma, A. Boesenberg, A. Baevski, A. Feinstein, A. Kallet, A. Sangani, A. Teo, A. Yunus, A. Lupu, A. Alvarado, A. Caples, Albert Gu, A. Ho, A. Poulton, A. Ryan, A. Ramchandani, A. Dong, A. Franco, A. G. A. P. Goyal, A. Saraf, A. Chowdhury, A. Gabriel, A. Bharambe, A. Eisenman, A. Yazdan, B. James, B. Maurer, B. Leonhardi, B. Huang, B. Loyd, B. D. Paola, B. Paranjape, Bing Liu, Bo Wu, B. Ni, B. Hancock, B. Wasti, B. Spence, B. Stojkovic, B. Gamido, B. Montalvo, C. Parker, C. Burton, C. Mejia, C. L. Liu, Caitlin Wang, Christina Kim, Chang Zhou, Changran Hu, C. H. Chu, Carrie Cai, C. Tindal, C. Feichtenhofer, C. Gao, D. Civin, D. Beaty, D. Kreymer, Dustin Li, D. Adkins, D. X. Xu, D. Testuggine, D. David, D. Parikh, D. Liskovich, D. Foss, D. Wang, D. Le, D. Holland, E. Dowling, E. Jamil, E. Montgomery, E. Presani, E. Hahn, E. Wood, E. T. Le, E. Brinkman, E. Arcaute, E. Dunbar, E. Smothers, F. Sun, F. Kreuk, F. Tian, F. Kokkinos, F. Ozgenel, F. Caggioni, F. Kanayet, F. Seide, G. M. Florez, G. Schwarz, G. Badeer, G. Swee, G. Halpern, G. Herman, G. Sizov, G. Zhang, G. Lakshminarayanan, H. Inan, H. Shojanazeri, H. Zou, Haiming Wang, H. Zha, H. Habeeb, H. Rudolph, H. Suk, H. Aspegren, H. Goldman, H. Zhan, I. Damlaj, I. Molybog, I. Tufanov, I. Leontiadis, I. E. Veliche, I. Gat, J. Weissman, J. Geboski, J. Kohli, J. Lam, J. Asher, J. B. Gaya, J. Marcus, Jie Tang, J. Chan, J. Zhen, J. Reizenstein, J. Teboul, J. Zhong, J. Jin, Jihan Yang, J. Cummings, J. Carvill, J. Shepard, J. Mcphie, J. Torres, J. Ginsburg, J. Wang, K. Wu, U. K. Hou, K. Saxena, K. Khandelwal, K. Zand, K. Matosich, K. Veeraraghavan, K. Michelena, K. Li, K. Jagadeesh, K. H. Huang, K. Chawla, K. H. Huang, L. C. Chen, L. Garg, A. Lavender, L. Silva, L. Bell, Li Zhang, L. Guo, Longhui Yu, L. Moshkovich, L. Wehrstedt, M. Khabsa, M. Avalani, M. Bhatt, M. Mankus, M. Hasson, M. Lennie, M. Reso, M. Groshev, M. Naumov, M. Lathi, M. Keneally, Mickel Liu, M. L. Seltzer, Michal Valko, M. Restrepo, M. Patel, M. Vyatskov, M. Samvelyan, M. Clark, M. Macey, Mingliang Wang, M. J. Hermoso, M. Metanat, M. Rastegari, Mohit Bansal, N. Santhanam, N. Parks, N. White, N. Bawa, N. Singhal, N. Egebo, Nicolas Usunier, N. Mehta, N. P. Laptev, N. Dong, Newton Cheng, O. Chernoguz, O. Hart, O. Salpekar, O. Kalinli, P. Kent, P. Parekh, P. Saab, P. Balaji, P. Rittner, P. Bontrager, P. Roux, Piotr Dollar, P. Zvyagina, P. Ratanchandani, P. Yuvraj, Q. Liang, R. Alao, R. Rodriguez, R. Ayub, R. Murthy, R. Nayani, R. Mitra, R. Parthasarathy, R. Li, R. Hogan, R. Battey, R. Wang, Russell Howes, R. Rinott, S. Mehta, S. Siby, S. J. Bondu, S. Datta, S. Chugh, S. Hunt, S. Dhillon, S. Sidorov, Siyuan Pan, S. Mahajan, S. Verma, S. Yamamoto, S. Ramaswamy, S. Lindsay, S. Lindsay, S. Feng, Stephen Lin, S. C. Zha, S. Patil, S. Shankar, S. Zhang, S. Zhang, Shijie Wang, Sandhini Agarwal, S. Sajuyigbe, S. Chintala, S. Max, S. Chen, S. Kehoe, S. Satterfield, S. Govindaprasad, S. Gupta, S. Deng, S. Cho, S. Virk, S. Subramanian, S. Choudhury, S. Goldman, T. Remez, T. Glaser, T. Best, T. Koehler, Tony Robinson, Tao Li, Tong Zhang, T. Matthews, T. Chou, T. Shaked, V. Vontimitta, V. Ajayi, V. Montanez, V. Mohan, V. S. Kumar, V. Mangla, V. Ionescu, V. Poenaru, V. T. Mihailescu, V. Ivanov, Wentao Li, Wenyi Wang, W. Jiang, W. Bouaziz, W. Constable, X. Tang, Xiaobao Wu, Xinpeng Wang, Xiaobao Wu, X. Gao, Y. Kleinman, Yanru Chen, Y. Hu, Y. Jia, Y. Qi, Yiwei Li, Y. Z. Zhang, Y. Z. Zhang, Y. Adi, Y. Nam, Yu, Wang, Y. Zhao, Yiding Hao, Y. Qian, Yiwei Li, Yun He, Z. Rait, Z. Devito, Z. Rosnbrick, Z. Wen, Zhilin Yang, Zhuoye Zhao, Z. Ma