Изкуственият интелект отдавна е част от операционните системи на почти всички устройства, които използваме. Появата на ChatGPT насочи вниманието към AI и ползите от него, но още през 2017г смартфони, като Google Pixel 2 и Huawei Mate 10 Pro обработваха изображенията от камерите с AI. И преди Covid софтуери можеха да идентифицират лица и обекти, околният шум при разговори можеше да се филтрира, да се поставят филтри на снимки. Вероятно сте приели тези екстри за даденост, но всъщност е ИИ, който се изпълнява на самия хардуер. Колко добре се справя вашия компютър, лаптоп или телефон с това зависи от параметрите.
Geekbench AI е много полезен показател именно за това.
Показва резултати изчислени на базата на реални натоварвания (AI Workloads), които симулират ежедневни задачи:
Класификация на изображения, засичане на обекти и лица, добавяне на стилови филтри върху снимки, разпознаване на текст и глас (напр. генериране на субтитри или превод в реално време), оценка на точността и скоростта с която се изпълняват задачите.
Резултатите от тези тестове имат цифрово изражение и могат да бъдат сравнявани. Те от своя страна се оказаха много интересни.
Реално, за вградените функции с изкуствен интелект в Windows 11, няма абсолютно никакво значение дали използвате 11-то, 12-то, 13-то или Ultra поколение процесори. Всички се справят еднакво с почти идентични резултати. Core i7 9-та генерация логично изостава спрямо по-съвременните CPU-та, но те и в чистата производителност за значителна крачка напред. Прави впечатление, че първото поколение на настолните Xeon Gold скалируеми процесори също изостават, но веднага наваксват с втора генерация.
При видеокартите е важна собствената памет. По-мощните се справят по-добре, но този тест не ги изпъва, като истински AI модел.
Вградените графики в 11-то, 12-то и 13-то поколение процесори се справят еднакво трагично. Тук се вижда и какъв скок е ARC Graphics влагани в новите Ultra процесори на Intel.
До тук добре. Всеки съвременен хардуер от 2020г насам се справя чудесно с вградените AI функционалности. Работата с AI/ML модели обаче е друга бира. Видеопаметта е критично важна. В нея се зарежда модела, пази контекста и определя, колко бързо връща отговор, изображение или за каквото там го ползвате.
За Benchmark ще използваме Easy Diffusion. Софтуер, който подкарва модели. Стандартно е Stable Diffusion модела, но ние ще използваме JuggernautXL_ragnarok, защото е по-съвременен.
Самият модел е сравнително малък и ще можем да включим и графики с по-малко от 8GB собствена памет.
Генерираме три изображения с резолюция 512x512, 1024x1024 и 1920x1080, като за всички сме задали еднакъв Prompt и Image quality - 95. Резултатите се измерват в секунди. По-малко секунди, по-добър резултат.
Nvidia RTX 5070 12GB, като най-съвременна и мощна видеокарта се справя най-бързо с генерирането на изображения и в трите случая.
По-интересно и показателно е сравнението между RTX A2000 с 4GB собствена памет в Dell Precision 7560 и същата видеокарта RTX A2000, но с 8GB собствена памет в Dell Precision 7670.
Изображение с резолюция 512x512.
 |
| RTX A2000 4GB Laptop 512x512 image |
 |
| RTX A2000 8GB Laptop 512x512 image |
Изображение с резолюция 1024x1024.
 |
| RTX A2000 4GB Laptop 1024x1024 image |
 |
| RTX A2000 8GB Laptop 1024x1024 image |
Изображение с резолюция 1920x1080.
 |
| RTX A2000 4GB Laptop 1920x1080 image |
 |
| RTX A2000 8GB Laptop 1920x1080 image |
Тестовете ясно показват, че варианта на RTX A2000 с 8GB е несравнимо по-бърза в създаването на изображения. Нещо повече. Въпреки, че това е мобилната RTX A2000, тя демонстрира абсолютно еднакви резултати с настолната професионална Nvidia RTX 4000 8GB.
 |
| RTX 4000 8GB Desktop 1920x1080 image |
 |
| RTX 2000 8GB laptop 1920x1080 image |
Както виждате, за работа с подобен генеративен AI модел локално на машината, мощна мобилна работна станция спокойно може да замени тежка настолна такава.
Easy Diffusion е сравнително лек ИИ, който генерира детайлни и никак не лоши изображения. Има и допълнителни настройки за качеството и за самата визуализация, които разбира се ще увеличат времето за генериране, но все пак може да се използва на почти всяка машина с видеокарта с 4GB и повече собствена памет. Абсолютно безплатен и е добро начало за онези, които искат да навлязат в тази материя.
Заради натоварването на хардуера при генериране, ние препоръчваме използването на работни станции за максимална стабилност.
Няма коментари:
Публикуване на коментар
Желателно е коментарът да е по темата и да е написан на кирилица.