В поредното ни месечно събитие, на което каним по един експерт от индустрията, гост беше Иван Иванов - човек с опит в Meta, Google и Amazon, а днес Venture Partner в Neo Ventures. Разговорът тръгна от детството му и стигна до придобиванията на компании отвътре в Big Tech, машинното обучение преди ерата на LLM-ите и това какво остава ценно в инженерството. По-долу е резюме на най-интересното, а пълният разговор е във видеото.
От Фарго до състезанията по програмиране
Иван е роден в София, а в началото на 90-те емигрира със семейството си в САЩ - родителите му са лекари. Прекарва няколко години в Северна Дакота, където тръгва на училище, знаейки само две думи на английски, и шест месеца по-късно вече говори свободно. Там за пръв път вижда компютри навсякъде - Macintosh машини, Netscape, dial-up интернет - и се пристрастява към тях и към шаха.
Обратно в България, без собствен компютър, той наваксва с учебници по алгоритми, които моли познати да му носят от чужбина. Поглъща книги по няколкостотин страници буквално за 48 часа - алгоритми, теория на графите - и се насочва към състезателното програмиране. Именно то по-късно му отваря вратата към Big Tech.
- ДетствоСофия → САЩ (Северна Дакота)Емиграция в началото на 90-те, английски за 6 месеца, първи досег с компютри и шах.
- Ученик / студентСъстезателно програмиранеСамоподготовка по алгоритми и теория на графите от вносни учебници.
- Facebook Hacker CupВходът към Big TechСилно класиране в състезанието на Facebook става повод за първите контакти с компанията.
- СтажовеGoogle и AmazonВ Amazon (Единбург) подобрява препоръчващите системи на началната страница; в Google работи по мащабни изчисления.
- MetaПридобивания и машинно обучениеОценка и придобиване на компании (due diligence), автоматизиран рисърч на невронни архитектури, патенти и научни статии.
По време на стаж в Google Иван случайно спира голямо офлайн изчисление на компанията - грешка за десетки милиони пропуснати ползи. Очаквал да го уволнят; вместо това чул „случва се, следващия път ще си по-внимателен". Културата към грешките е част от това как растат силните инженери.
Как изглеждат придобиванията на компании
Голяма част от работата на Иван в Meta е била придобиване на компании. Процесът е бърз и безмилостен - понякога има само около 20 дни да оцениш и купиш дадена компания. Екипът интервюира CTO-тата и CEO-тата на целите, за да разбере какво реално правят, и често открива огромни пропуски: основатели, които не могат да отговорят на базови въпроси за собствения си продукт.
„Питаш CTO-то колко добра е системата - какви са precision и recall. Ако те гледа неразбиращо, вече знаеш горе-долу колко технически е екипът, който е зад продукта.“
Един от публично известните примери е придобиването на Confirm.io - компания от Бостън за проверка на автентичността на документи. За да тестват алгоритъма ѝ, екипът трябвало за две седмици да се сдобие с няколко хиляди фалшиви документа. Тези процеси показват колко мултидисциплинарни са хората, които успяват - едновременно бизнес, продукт и дълбока техника.
Данните бият модела
Фийчърите > моделът
Къде е реалната стойност
Разликата между сложна невронна мрежа и обикновен random forest често е малка. Истинската разлика идва от данните и от това да намериш добрите признаци (features). Математиката е нужна основа, но сама по себе си не стига - трябва интуиция и практика.
Innovator’s dilemma
Защо OpenAI, а не Google
Голяма част от фундаменталния рисърч зад трансформърите („Attention is all you need", 2017) идва от Google. Но на малка компания като OpenAI ѝ е по-лесно да заложи на радикална промяна, отколкото на гигант с установен бизнес - това е класическата „дилема на иноватора".
Иван разказва и как в Meta автоматизирали избора на невронни архитектури - алгоритми, които чрез паралелни изчисления правят hill-climbing върху различни архитектури и намират оптималната, вместо това да се налучква на ръка. Въпреки цялата революция с LLM-ите, класическото машинно обучение остава „alive and kicking" за специализирани задачи, а фундаментите му се менят бавно.
Бъдещето на софтуерното инженерство
Според Иван професията няма да изчезне - променят се подробностите, не същността. Нещата, които винаги са били в основата - как проектираш архитектурата на системите, как решаваш сложни реални проблеми, които не се свеждат до написването на една функция - остават също толкова важни. AI инструментите променят как работим, но не отменят нуждата от истинско инженерство.
„Фундаментите остават същите. AI мени инструментите, но не и нуждата да разбираш дълбоко какво строиш.“